Loading...
🔒
Muster zur Verhinderung von Werkzeugmissbrauch(TMP)
Verhindert, dass Agenten dazu manipuliert werden, über Werkzeuge bösartige Aktionen auszuführen
Komplexität: highSicherheits- und Datenschutzmuster
In 30 seconds
- What
- Beschränkt den Werkzeugzugriff des Agenten vor der Ausführung über Berechtigungsgrenzen, Aktionsvalidierung, Sandboxing, Audit-Logs und Ratenbegrenzungen.
- When to use
- Agenten steuern sensible Systeme wie Datenbanken, Dateisysteme, Shell-Befehle oder externe APIs, bei denen Missbrauch echten Schaden anrichtet.
- Watch out
- Zu strenge Regeln blockieren legitime Arbeit, zu großzügige stoppen entschlossene Prompt-Injection-Angriffe nicht.
Loading technique guide…