Loading...
🔐
システムプロンプト保護パターン(SPP)
システムプロンプトを抽出や改ざんの試みから保護する
複雑さ: mediumセキュリティとプライバシーのパターン
In 30 seconds
- What
- 難読化、多層構造、実行時の整合性チェックにより、システムプロンプトを抽出したり上書きしたりする試みを検出してブロックします。
- When to use
- 本番投入したエージェントが機微な指示を扱う場合や、ユーザーが隠された指示を探ろうとする敵対的な環境で動作する場合に。
- Watch out
- 難読化は見せかけの安全性しか生みません。執拗な攻撃者はしばしば回避策を見つけ、追加処理が正当なやり取りを遅くすることもあります。
Loading technique guide…