Loading...
👁️
注意力流分析(AFA)
追踪并可视化 AI 系统在推理过程中将注意力集中于何处
复杂度: medium可解释性
In 30 seconds
- What
- 通过映射跨层、注意力头和时间步的注意力权重，可视化 AI 模型优先关注哪些输入或推理步骤。
- When to use
- 调试模型的异常输出、验证推理质量，或弄清系统为何忽略了相关信息。
- Watch out
- 注意力模式并不总能反映真实的推理过程：对某个 token 的高注意力，并不保证它影响了最终决策。
Loading technique guide…