Loading...
🔒
Паттерн предотвращения злоупотребления инструментами(TMP)
Не позволяет злоумышленникам склонить агентов к выполнению вредоносных действий через инструменты
Сложность: highПаттерны безопасности и конфиденциальности
In 30 seconds
- What
- Ограничивает доступ агента к инструментам через границы разрешений, проверку действий, песочницы, журналы аудита и лимиты частоты запросов до выполнения.
- When to use
- Агенты управляют чувствительными системами: базами данных, файловыми системами, командами shell или внешними API, где злоупотребление наносит реальный ущерб.
- Watch out
- Слишком строгие правила блокируют полезную работу, слишком мягкие не останавливают настойчивые атаки внедрением промптов.
Loading technique guide…