Loading...
UI управления окном контекста(CWM)
Визуальные паттерны для управления ограничениями контекста LLM, расходом токенов и оптимизацией окна контекста в интерфейсах агентов
In 30 seconds
- What
- Показывает расход токенов, позволяет закреплять важные сообщения и автоматически сжимает старый контекст, чтобы уложиться в лимиты LLM.
- When to use
- Длинные диалоги, где контекстное окно переполняется и решать, что сохранить, а что отбросить, должен пользователь.
- Watch out
- Пользователи часто неверно оценивают, какая информация действительно нужна агенту, и урезанный контекст ломает дальнейшие рассуждения.
Loading technique guide…