パターンを読み込んでいます…
🔐
システムプロンプト保護パターン(SPP)
システムプロンプトを抽出や改ざんの試みから保護する
複雑さ: mediumセキュリティとプライバシーのパターン
30秒でわかる概要
- 概要
- 難読化、多層構造、実行時の整合性チェックにより、システムプロンプトを抽出したり上書きしたりする試みを検出してブロックします。
- 使いどころ
- 本番投入したエージェントが機微な指示を扱う場合や、ユーザーが隠された指示を探ろうとする敵対的な環境で動作する場合に。
- 注意点
- 難読化は見せかけの安全性しか生みません。執拗な攻撃者はしばしば回避策を見つけ、追加処理が正当なやり取りを遅くすることもあります。
このパターンについてAIエキスパートに質問
質問が入力済みの状態でアシスタントが開きます。送信前に内容を確認できます。
システムプロンプト保護パターン: 概要
システムプロンプトを抽出や改ざんの試みから保護する
- Prompt obfuscation techniques
- Extraction attempt detection
- Layered prompt architecture
- Dynamic prompt variation
- Anti-pattern recognition
- Prompt integrity verification
The Agent Architect
1つのパターン、1つのトレードオフ、1つの本番障害事例。エージェントシステムを構築する人のための短い週刊ブリーフィング。
週1回のメール、ワンクリックで購読解除できます。アドレスはブリーフィングの送信のみに使用します。
参考文献
このパターンの根拠となる論文、仕様、リポジトリです。
- OWASP Top 10 LLMs (2025)
このカタログを作ったエンジニアが担当
あなたのエージェントシステムをレッドチーミング
ここで説明した対策は、誰かが破ろうとして初めて確かめられます。実際の攻撃者と同じ手口で検証します。プロンプトインジェクション、ジェイルブレイク、ツールの悪用、データ持ち出しまで、すべての指摘に修正方法を添えます。
€750（通常€1,500）・1週間・文書レポートとウォークスルーコール・9月30日まで