Loading...
🎭
AGrail 適応型パターン(AAP)
安全性チェックを動的に生成・改良し続ける、生涯にわたって適応する安全システム
複雑さ: highセキュリティとプライバシーのパターン
In 30 seconds
- What
- タスクの文脈を観察しながら実行時に安全制約を動的に生成し洗練させ、二つの LLM を用いて出力を進化したルールに照らして検証します。
- When to use
- 画一的な安全ルールでは通用しない多様な領域を扱い、継続的な監視と制約の洗練にコストをかけられるシステム。
- Watch out
- 二つの LLM による評価はレイテンシとコストを増やします。洗練のためのフィードバックがノイズだらけだったり敵対的だったりすると、進化した制約が本来意図した安全境界から逸れていくおそれがあります。
Loading technique guide…