パターンを読み込んでいます…
⚖️
対照的説明(CE)
何が結果を変えるかを示すことで AI の判断を説明する
複雑さ: medium解釈可能性
30秒でわかる概要
- 概要
- 決定境界を越えるための最小限の変更を探すことで、どの入力を変えれば AI の判断が反転するかを示します。
- 使いどころ
- とくに影響の大きい判断において、なぜ拒否されたのか、どの具体的な行動が結果を変えうるのかをユーザーが理解する必要がある場合。
- 注意点
- 反実仮想は非現実的あるいは不公平な変更を提案しかねず、何が実際に達成可能で妥当なのかについてユーザーを誤解させます。
このパターンについてAIエキスパートに質問
質問が入力済みの状態でアシスタントが開きます。送信前に内容を確認できます。
対照的説明: 概要
何が結果を変えるかを示すことで AI の判断を説明する
- Counterfactual analysis
- Decision boundary exploration
- Alternative pathway generation
- Minimal change identification
- Feature importance ranking
- Causal relationship mapping
The Agent Architect
1つのパターン、1つのトレードオフ、1つの本番障害事例。エージェントシステムを構築する人のための短い週刊ブリーフィング。
週1回のメール、ワンクリックで購読解除できます。アドレスはブリーフィングの送信のみに使用します。
参考文献
このパターンの根拠となる論文、仕様、リポジトリです。
- Explanations based on the Missing: Towards Contrastive Explanations with Pertinent Negatives - Dhurandhar et al. (NeurIPS 2018)arXiv:1802.07623
- Counterfactual Explanations without Opening the Black Box - Wachter et al. (2017)arXiv:1711.00399
- Explanation in Artificial Intelligence: Insights from the Social Sciences - Miller (2017)arXiv:1706.07269
このカタログを作ったエンジニアが担当
エージェント構成をレビューします
このページが扱うのは1つのパターンです。実際のシステムは数十を組み合わせて動き、障害の多くはその繋ぎ目で起きます。カタログの288パターンに照らして設計全体をレビューします。アーキテクチャ、信頼性、評価、コストまで、指摘ごとに対応するパターンを示します。
€750（通常€1,500）・1週間・文書レポートとウォークスルーコール・9月30日まで