Loading...
🧅
エージェントの混合(MoA)
各層で複数の LLM 提案エージェントが前の層のすべての応答を補助的なコンテキストとして受け取り、最終的なアグリゲーターが統合する前に自らの回答を反復的に洗練していく、層状のアンサンブル。モデルは他のエージェントの応答を見せられると、より優れた回答を生成するため、オープンソースの提案エージェントを積み重ねることで、単一のフロンティアモデルを上回ることができる。
複雑さ: highマルチエージェント
In 30 seconds
- What
- LLMエージェントを積み重ね、各層が前の層のすべての出力を踏まえて回答を反復的に磨き上げ、最後に一つの応答へ集約します。
- When to use
- 多様なモデルの視点が品質を高める複雑な問題で、オープンソースのモデルを組み合わせれば最先端モデルに並ぶか、それを上回れる場合に。
- Watch out
- レイテンシとコストは層数と提案モデル数に比例して増えます。効果は2層から3層で頭打ちになることが多く、それ以上は計算資源の無駄になりがちです。
Loading technique guide…