Loading...
🔒
ツール悪用防止パターン(TMP)
エージェントが操作され、ツールを通じて悪意ある操作を実行させられるのを防ぐ
複雑さ: highセキュリティとプライバシーのパターン
In 30 seconds
- What
- 権限境界、アクションの検証、サンドボックス化、監査ログ、レート制限によって、実行前にエージェントのツール利用を制限します。
- When to use
- エージェントがデータベース、ファイルシステム、シェルコマンド、外部 API といった重要なシステムを操作し、誤用が実害につながる場合。
- Watch out
- 制限が厳しすぎると正当な作業を妨げ、緩すぎると執拗なプロンプトインジェクション攻撃を止められません。
Loading technique guide…