Loading...
👁️
Analyse du flux d'attention(AFA)
Suivre et visualiser où les systèmes d'IA concentrent leur attention pendant le raisonnement
Complexité: mediumInterprétabilité
In 30 seconds
- What
- Visualise les entrées ou les étapes de raisonnement qu'un modèle d'IA privilégie en cartographiant les poids d'attention à travers les couches, les têtes et les pas de temps.
- When to use
- Déboguer des sorties de modèle inattendues, valider la qualité du raisonnement ou comprendre pourquoi un système a ignoré une information pertinente.
- Watch out
- Les schémas d'attention ne reflètent pas toujours le raisonnement réel : une forte attention portée à un token ne garantit pas qu'il a influencé la décision finale.
Loading technique guide…