注意力机制到底在计算什么
从查询、键和值的角色出发,理解模型如何为当前 token 选择上下文信息。
阅读全文大模型知识学习
正在载入知识笔记
KNOWLEDGE NOTES
笔记按基础概念、方法评测和工程实践整理。内容是阶段性学习记录,会保留整理日期与结论边界。
从查询、键和值的角色出发,理解模型如何为当前 token 选择上下文信息。
阅读全文把召回、重排、引用和拒答连成一条可诊断链路,定位答案失真的来源。
阅读全文任务说明、输出模式、字段验证和业务校验各自解决不同类型的不确定性。
阅读全文用稳定样本、评分规则和失败分类,判断一次改动是真改善还是偶然波动。
阅读全文工具描述只是入口,参数验证、最小权限和人工确认才决定系统是否可靠。
阅读全文把显存、吞吐、延迟和任务质量放在一起衡量,而不是只比较量化位数。
阅读全文尝试缩短关键词或切换到其他分类。