Loading...
🧅
Mélange d'agents(MoA)
Ensemble en couches dans lequel, à chaque couche, plusieurs agents proposeurs LLM reçoivent l'ensemble des réponses de la couche précédente comme contexte auxiliaire, affinant itérativement leurs réponses avant qu'un agrégateur final ne les synthétise. Comme les modèles produisent de meilleures réponses lorsqu'on leur montre les réponses de leurs pairs, un empilement de proposeurs open source peut surpasser un unique modèle de pointe.
Complexité: highMulti-agents
In 30 seconds
- What
- Un empilement d'agents LLM affine les réponses de façon itérative en conditionnant chaque couche sur toutes les sorties de la couche précédente, puis agrège le tout en une réponse finale.
- When to use
- Pour des problèmes complexes où la diversité des points de vue des modèles améliore la qualité, et où des modèles ouverts réunis peuvent égaler ou dépasser les modèles de pointe.
- Watch out
- La latence et le coût croissent linéairement avec le nombre de couches et de proposants ; les rendements décroissants plafonnent souvent après 2 ou 3 couches, ce qui gaspille du calcul.
Loading technique guide…