パターンを読み込んでいます…
🧅
エージェントの混合(MoA)
各層で複数の LLM 提案エージェントが前の層のすべての応答を補助的なコンテキストとして受け取り、最終的なアグリゲーターが統合する前に自らの回答を反復的に洗練していく、層状のアンサンブル。モデルは他のエージェントの応答を見せられると、より優れた回答を生成するため、オープンソースの提案エージェントを積み重ねることで、単一のフロンティアモデルを上回ることができる。
複雑さ: highマルチエージェント
30秒でわかる概要
- 概要
- LLMエージェントを積み重ね、各層が前の層のすべての出力を踏まえて回答を反復的に磨き上げ、最後に一つの応答へ集約します。
- 使いどころ
- 多様なモデルの視点が品質を高める複雑な問題で、オープンソースのモデルを組み合わせれば最先端モデルに並ぶか、それを上回れる場合に。
- 注意点
- レイテンシとコストは層数と提案モデル数に比例して増えます。効果は2層から3層で頭打ちになることが多く、それ以上は計算資源の無駄になりがちです。
このパターンについてAIエキスパートに質問
質問が入力済みの状態でアシスタントが開きます。送信前に内容を確認できます。
エージェントの混合: 概要
各層で複数の LLM 提案エージェントが前の層のすべての応答を補助的なコンテキストとして受け取り、最終的なアグリゲーターが統合する前に自らの回答を反復的に洗練していく、層状のアンサンブル。モデルは他のエージェントの応答を見せられると、より優れた回答を生成するため、オープンソースの提案エージェントを積み重ねることで、単一のフロンティアモデルを上回ることができる。
- Layered proposer-aggregator architecture
- Each layer conditions on all prior-layer outputs
- Iterative cross-model refinement
- Aggregator synthesizes a best-of-all response
- Works with heterogeneous open-source models
- Exploits model collaborativeness (peers improve output)
The Agent Architect
1つのパターン、1つのトレードオフ、1つの本番障害事例。エージェントシステムを構築する人のための短い週刊ブリーフィング。
週1回のメール、ワンクリックで購読解除できます。アドレスはブリーフィングの送信のみに使用します。
参考文献
このパターンの根拠となる論文、仕様、リポジトリです。
このカタログを作ったエンジニアが担当
エージェント構成をレビューします
このページが扱うのは1つのパターンです。実際のシステムは数十を組み合わせて動き、障害の多くはその繋ぎ目で起きます。カタログの288パターンに照らして設計全体をレビューします。アーキテクチャ、信頼性、評価、コストまで、指摘ごとに対応するパターンを示します。
€750（通常€1,500）・1週間・文書レポートとウォークスルーコール・9月30日まで