パターンを読み込んでいます…
🧠
メタ認知モニタリング(MCM)
推論の質と確信度に対する自己認識とモニタリング
複雑さ: high推論技法
30秒でわかる概要
- 概要
- エージェントが自らの推論の質、確信度、知識の欠落を把握し、その自己評価に基づいて戦略を調整したり説明を求めたりします。
- 使いどころ
- 誤答が実害をもたらし、途中の確信度チェックによって追加のデータ収集や専門家によるレビューを起動できる、重大な意思決定の場面。
- 注意点
- 確信度の推定は実際の正確さとあまり相関しないことが多く、自己申告の確信が高いにもかかわらず、過信したエージェントは必要な検証手順を飛ばしてしまいます。
このパターンについてAIエキスパートに質問
質問が入力済みの状態でアシスタントが開きます。送信前に内容を確認できます。
メタ認知モニタリング: 概要
推論の質と確信度に対する自己認識とモニタリング
- Reasoning quality assessment
- Confidence estimation
- Knowledge gap detection
- Strategy effectiveness monitoring
- Adaptive reasoning adjustment
- Error anticipation
The Agent Architect
1つのパターン、1つのトレードオフ、1つの本番障害事例。エージェントシステムを構築する人のための短い週刊ブリーフィング。
週1回のメール、ワンクリックで購読解除できます。アドレスはブリーフィングの送信のみに使用します。
参考文献
このパターンの根拠となる論文、仕様、リポジトリです。
- Teaching Large Language Models to Self-Debug (Chen et al., 2023)arXiv:2304.05128
- Self-Refine: Iterative Refinement with Self-Feedback (Madaan et al., 2023)arXiv:2303.17651
- Constitutional AI: Harmlessness from AI Feedback (Bai et al., 2022)arXiv:2212.08073
- LangChain Self-Correction Patterns
- DSPy Official Documentation
このカタログを作ったエンジニアが担当
エージェント構成をレビューします
このページが扱うのは1つのパターンです。実際のシステムは数十を組み合わせて動き、障害の多くはその繋ぎ目で起きます。カタログの288パターンに照らして設計全体をレビューします。アーキテクチャ、信頼性、評価、コストまで、指摘ごとに対応するパターンを示します。
€750（通常€1,500）・1週間・文書レポートとウォークスルーコール・9月30日まで