Loading...
🗺️
Разделение планирования и выполнения (ReWOO/LLMCompiler)(PED)
Генерирует весь план или граф вызовов инструментов заранее, в отрыве от наблюдений инструментов, и только затем выполняет его. ReWOO записывает параметризованную переменными цепочку вызовов инструментов до того, как что-либо запустится, сокращая избыточные обращения к модели; LLMCompiler строит DAG зависимостей и параллельно отправляет независимые вызовы инструментов. Это отличается от ReAct, который чередует по одной мысли и одному действию за раз и повторно подаёт каждое наблюдение в промпт.
Сложность: highПланирование
In 30 seconds
- What
- Формирует полный план вызовов инструментов или граф зависимостей до начала выполнения, а затем прогоняет все шаги (или безопасные для параллелизма подмножества) без повторного запроса модели на каждом наблюдении.
- When to use
- Многоинструментальные задачи, где шаги независимы или имеют явные зависимости, а вам нужна меньшая задержка или стоимость в токенах, чем у чередующихся циклов размышление-действие.
- Watch out
- План устаревает или оказывается ошибочным, если первые результаты инструментов расходятся с допущениями; перепланирование по ходу выполнения усложняет систему и может свести экономию токенов на нет.
Loading technique guide…