Loading...
🔒
Modèle de prévention de l'usage abusif des outils(TMP)
Empêche que les agents soient manipulés pour exécuter des actions malveillantes via les outils
Complexité: highModèles de sécurité et de confidentialité
In 30 seconds
- What
- Restreint l'accès de l'agent aux outils par des périmètres de permissions, la validation des actions, le bac à sable, les journaux d'audit et des limites de débit avant exécution.
- When to use
- Les agents pilotent des systèmes sensibles comme des bases de données, des systèmes de fichiers, des commandes shell ou des API externes, où un mauvais usage cause de vrais dégâts.
- Watch out
- Des règles trop restrictives bloquent le travail légitime ; des règles trop permissives n'arrêtent pas les attaques d'injection de prompt déterminées.
Loading technique guide…