パターンを読み込んでいます…
🧪
メモリポイズニング防止パターン(MPP)
エージェントのメモリシステムを悪意ある改ざんや段階的な汚染から保護する
複雑さ: highセキュリティとプライバシーのパターン
30秒でわかる概要
- 概要
- 暗号署名によって記憶の更新を検証し、異常を検知し、破損した状態をロールバックすることで、エージェントの知識が悪意をもって操作されるのを防ぎます。
- 使いどころ
- エージェントがユーザーデータや学習したパターンを保存しており、攻撃者がそれを汚染して時間とともに挙動、判断、出力を変えうる場合。
- 注意点
- 絶え間ない検証とロールバック機構のオーバーヘッドは、大量処理やリアルタイム制約のもとで応答時間を大きく悪化させることがあります。
このパターンについてAIエキスパートに質問
質問が入力済みの状態でアシスタントが開きます。送信前に内容を確認できます。
メモリポイズニング防止パターン: 概要
エージェントのメモリシステムを悪意ある改ざんや段階的な汚染から保護する
- Persistent memory validation
- State integrity verification
- Cryptographic signing of updates
- Regular memory sanitization
- Anomaly detection in memory patterns
- Rollback mechanisms for corrupted state
The Agent Architect
1つのパターン、1つのトレードオフ、1つの本番障害事例。エージェントシステムを構築する人のための短い週刊ブリーフィング。
週1回のメール、ワンクリックで購読解除できます。アドレスはブリーフィングの送信のみに使用します。
参考文献
このパターンの根拠となる論文、仕様、リポジトリです。
- OWASP ASI (2025)
このカタログを作ったエンジニアが担当
あなたのエージェントシステムをレッドチーミング
ここで説明した対策は、誰かが破ろうとして初めて確かめられます。実際の攻撃者と同じ手口で検証します。プロンプトインジェクション、ジェイルブレイク、ツールの悪用、データ持ち出しまで、すべての指摘に修正方法を添えます。
€750（通常€1,500）・1週間・文書レポートとウォークスルーコール・9月30日まで