Loading...
Смесь агентов(MoA)
Многослойный ансамбль, в котором на каждом слое несколько LLM-агентов-предложителей получают все ответы предыдущего слоя в качестве вспомогательного контекста и итеративно улучшают свои ответы, прежде чем финальный агрегатор сведёт их воедино. Поскольку модели дают более качественные ответы, когда им показывают ответы коллег, стек предложителей с открытым исходным кодом может превзойти одну передовую модель.
In 30 seconds
- What
- Стек LLM-агентов итеративно улучшает ответы: каждый слой опирается на все выходы предыдущего, после чего всё сводится в итоговый ответ.
- When to use
- Для сложных задач, где разнообразие точек зрения моделей повышает качество, а открытые модели вместе способны сравняться с передовыми или превзойти их.
- Watch out
- Задержка и стоимость растут линейно с числом слоёв и предлагающих моделей; отдача часто выходит на плато после 2 или 3 слоёв, и дальнейшие вычисления пропадают зря.
Loading technique guide…