Loading...
👁️
アテンションフロー分析(AFA)
AI システムが推論中にどこへ注意を向けているかを追跡し、可視化する
複雑さ: medium解釈可能性
In 30 seconds
- What
- レイヤー、ヘッド、タイムステップにわたるアテンション重みをマッピングし、AI モデルがどの入力や推論ステップを重視しているかを可視化します。
- When to use
- 予期しないモデル出力のデバッグ、推論品質の検証、システムが関連情報を無視した理由の解明。
- Watch out
- アテンションのパターンが実際の推論をそのまま表すとは限りません。あるトークンへの注目度が高くても、最終的な判断に影響したとは限らないのです。
Loading technique guide…