Loading...
Извлечение инструментов (Tool RAG)(TR)
Когда агенту доступны сотни или тысячи инструментов или MCP-серверов, загрузка каждой схемы в промпт обходится дорого и снижает точность выбора. Извлечение инструментов индексирует определения инструментов и для каждого запроса извлекает только семантически релевантные из них (поиск по эмбеддингам, активное обнаружение и переранжирование), прежде чем модель сделает выбор. RAG-MCP сообщает, что точность выбора инструментов возрастает примерно с 13 до 43 процентов при сокращении числа токенов промпта более чем вдвое.
In 30 seconds
- What
- Индексирует определения инструментов через эмбеддинги, извлекает под каждый запрос только семантически релевантные схемы и переранжирует их перед выбором моделью.
- When to use
- Агенты работают с сотнями или тысячами инструментов, и загрузка всех схем расходует токены и ухудшает точность выбора.
- Watch out
- Сбои извлечения, будь то плохое совпадение эмбеддингов или неверное ранжирование, молча исключают нужный инструмент, и агент выбирает менее подходящую альтернативу.
Loading technique guide…