Loading...
👁️
Analyse des Aufmerksamkeitsflusses(AFA)
Nachverfolgen und visualisieren, worauf KI-Systeme während des Schließens ihre Aufmerksamkeit richten
Komplexität: mediumInterpretierbarkeit
In 30 seconds
- What
- Visualisiert, welche Eingaben oder Denkschritte ein KI-Modell priorisiert, indem es Attention-Gewichte über Layer, Heads und Zeitschritte hinweg abbildet.
- When to use
- Beim Debuggen unerwarteter Modellausgaben, beim Prüfen der Argumentationsqualität oder um zu verstehen, warum ein System relevante Informationen ignoriert hat.
- Watch out
- Attention-Muster spiegeln nicht immer das tatsächliche Schlussfolgern wider: Hohe Aufmerksamkeit für ein Token garantiert nicht, dass es die endgültige Entscheidung beeinflusst hat.
Loading technique guide…