Loading...
📦
エージェントのサンドボックス化(SBX)
エージェントが生成したコード、シェルコマンド、信頼できないコンテンツの処理を、スコープを限定したファイルシステムとプロキシを介したネットワーク送信の許可リストを備えた隔離環境内で実行する。プロンプトインジェクションを受けたエージェントであっても、ホストのシークレットを読み取ったり、スコープ外のファイルに触れたり、承認されていないドメインへデータを持ち出したりすることはできない。隔離は、SeatbeltやbubblewrapといったOSプリミティブ、マイクロVMやコンテナ、あるいはE2B、Modal、Dockerのような専用サンドボックス基盤によって構築される。
複雑さ: mediumセキュリティとプライバシーのパターン
In 30 seconds
- What
- エージェントのコードを隔離環境で実行し、ファイルシステムへのアクセスを制限し、外向きの通信を許可リスト方式のプロキシで絞り込む。
- When to use
- エージェントが信頼できないコードやシェルコマンドを実行したり、ユーザー提供のコンテンツを処理したりする場面で、プロンプトインジェクションや悪意ある出力がデータ流出のリスクをもたらす場合。
- Watch out
- サンドボックス脱出の脆弱性や設定を誤ったポリシーは隔離を無効化しうる。サンドボックス基盤は定期的に監査し、更新すること。
Loading technique guide…