Loading...
🧪
メモリポイズニング防止パターン(MPP)
エージェントのメモリシステムを悪意ある改ざんや段階的な汚染から保護する
複雑さ: highセキュリティとプライバシーのパターン
In 30 seconds
- What
- 暗号署名によって記憶の更新を検証し、異常を検知し、破損した状態をロールバックすることで、エージェントの知識が悪意をもって操作されるのを防ぎます。
- When to use
- エージェントがユーザーデータや学習したパターンを保存しており、攻撃者がそれを汚染して時間とともに挙動、判断、出力を変えうる場合。
- Watch out
- 絶え間ない検証とロールバック機構のオーバーヘッドは、大量処理やリアルタイム制約のもとで応答時間を大きく悪化させることがあります。
Loading technique guide…