Loading...
Mischung von Agenten(MoA)
Geschichtetes Ensemble, in dem an jeder Schicht mehrere LLM-Vorschlagsagenten sämtliche Antworten der vorherigen Schicht als Zusatzkontext erhalten und ihre Antworten iterativ verfeinern, bevor ein finaler Aggregator sie zusammenführt. Da Modelle bessere Antworten liefern, wenn ihnen die Antworten ihrer Peers gezeigt werden, kann ein Stapel von Open-Source-Vorschlagsagenten ein einzelnes Spitzenmodell übertreffen.
In 30 seconds
- What
- Ein Stapel von LLM-Agenten verfeinert Antworten iterativ, indem jede Schicht auf allen Ausgaben der vorherigen Schicht aufsetzt, und fasst das Ergebnis zu einer finalen Antwort zusammen.
- When to use
- Für komplexe Probleme, bei denen unterschiedliche Modellperspektiven die Qualität steigern und Open-Source-Modelle gemeinsam die Leistung von Frontier-Modellen erreichen oder übertreffen können.
- Watch out
- Latenz und Kosten wachsen linear mit der Zahl der Schichten und Vorschlagenden; der Nutzen flacht oft schon nach 2 bis 3 Schichten ab und verschwendet Rechenleistung.
Loading technique guide…