Loading...
👁️
Анализ потока внимания(AFA)
Отслеживание и визуализация того, на чём системы ИИ фокусируют внимание в процессе рассуждения
Сложность: mediumИнтерпретируемость
In 30 seconds
- What
- Визуализирует, какие входные данные или шаги рассуждения модель ИИ считает приоритетными, отображая веса внимания по слоям, головам и временным шагам.
- When to use
- Отладка неожиданных выводов модели, проверка качества рассуждений или выяснение, почему система проигнорировала важную информацию.
- Watch out
- Паттерны внимания не всегда отражают фактическое рассуждение: высокое внимание к токену не гарантирует, что он повлиял на итоговое решение.
Loading technique guide…