Loading...

📞

Вызов функций

Структурированный интерфейс, позволяющий ИИ вызывать внешние функции и API

Сложность: mediumИспользование инструментов

In 30 seconds

What: ИИ вызывает внешние функции через структурированные схемы, передавая проверенные параметры и получая типизированные ответы.
When to use: Задачи, требующие данных в реальном времени, вычислений или изменения состояния, которые модель не может выполнить сама.
Watch out: Модели могут галлюцинировать вызовы функций с неверными именами, пропущенными параметрами или невозможными значениями аргументов.

Loading technique guide…

Patterns

Loading...

Паттерны и методы проектирования

Loading...

📞

Вызов функций

Структурированный интерфейс, позволяющий ИИ вызывать внешние функции и API

Сложность: mediumИспользование инструментов

In 30 seconds

What: ИИ вызывает внешние функции через структурированные схемы, передавая проверенные параметры и получая типизированные ответы.
When to use: Задачи, требующие данных в реальном времени, вычислений или изменения состояния, которые модель не может выполнить сама.
Watch out: Модели могут галлюцинировать вызовы функций с неверными именами, пропущенными параметрами или невозможными значениями аргументов.

Обзор за 30 секунд

Паттерн: Позволяет ИИ вызывать внешние функции и API через структурированные схемы

Почему: Снимает ограничения знаний LLM, обеспечивая доступ к актуальным данным, внешние действия и точные вычисления

Ключевая идея: Управляемые схемой вызовы функций с проверкой параметров, параллельным выполнением и контролем безопасности

Быстрая реализация

1Определить схему:JSON-схема с параметрами и типами

2Зарегистрировать инструменты:Добавить в реестр функций с аутентификацией

3Проверить параметры:Санировать и проверять все входные данные

4Выполнить:Вызвать API с таймаутами и повторами

5Обработать результаты:Нормализовать и интегрировать ответы

Example: get_weather(location="NYC", units="celsius") → {"temp": 18, "condition": "cloudy"}

Что делать и чего избегать

✅Писать подробные описания функций (минимум 3-4 предложения)

✅Использовать строгие JSON-схемы с проверкой обязательных и необязательных полей

✅Реализовать санитизацию параметров и защиту от инъекций

✅Добавить таймауты, повторы с экспоненциальной задержкой и предохранители

✅Выполнять независимые вызовы функций параллельно

✅Кэшировать детерминированные результаты функций для оптимизации затрат

❌Использовать расплывчатые описания функций, ведущие к галлюцинациям параметров

❌Разрешать неограниченные параллельные вызовы без ограничения частоты

❌Повторять неидемпотентные операции после таймаутов

❌Раскрывать сырые учётные данные API или секреты в вызовах функций

❌Пропускать проверку входных данных и сканирование безопасности

Когда использовать

Используйте, когда

• Нужны актуальные данные за пределами обучения модели
• Требуются интеграции с внешними API или запросы к базе данных
• Необходимы точные вычисления или выполнение кода
• Запуск действий во внешних системах (почта, планирование)

Избегайте, когда

• Информация есть в знаниях модели с приемлемым качеством
• Жёсткие требования реального времени, где накладные расходы инструментов ломают SLO
• Рискованные необратимые действия без одобрения человека
• Простые задачи, решаемые обычной генерацией текста

Ключевые метрики

Точность выбора функции

% верно выбранных инструментов из реестра

Доля извлечённых параметров

% корректно определённых обязательных параметров

Успешность валидации схемы

% вызовов, прошедших проверки

Доля успешных вызовов API

% успешных внешних вызовов функций

Эффективность параллельного выполнения

Снижение задержки по сравнению с последовательным

Оптимизация расхода токенов

Токенов контекста на вызов функции

Частота инцидентов безопасности

Заблокированные попытки инъекций/XSS

Стоимость задачи

Общая стоимость: модель + API + инфраструктура

Основные сценарии использования

Погода и данные в реальном времени: get_weather("NYC") → текущие условия для принятия решений

Интеграция с календарём: schedule_meeting(time, attendees) → автоматические сценарии планирования

Операции с базой данных: query_db(table, filters) → динамическое чтение и обновление данных

Выполнение кода: run_python(code) → вычислительные задачи и анализ данных

Почта и коммуникации: send_email(to, subject, body) → автоматические уведомления

Веб-поиск: search_web(query) → получение информации в реальном времени

Операции с файлами: read_file(path), write_file(path, content) → обработка документов

Интеграции с API: call_api(endpoint, params) → взаимодействие с внешними сервисами

Источники и дополнительные материалы

Углубите понимание с помощью этих подобранных материалов

Основополагающие научные статьи

ReAct: Synergizing Reasoning and Acting in Language Models (ICLR 2023)

Toolformer: Language Models Can Teach Themselves to Use Tools (2023)

Gorilla: Large Language Model Connected with Massive APIs (UC Berkeley 2023)

Berkeley Function Calling Leaderboard (BFCL) - актуальный бенчмарк

Отраслевые руководства по внедрению

Документация Anthropic Claude по использованию инструментов

Руководство по function calling в Google Gemini

OpenAI: лучшие практики function calling

LangChain: фреймворк интеграции инструментов

Корпоративные фреймворки и безопасность

Model Context Protocol (MCP) - стандарт Anthropic

Google Agent Developer Kit (ADK) - корпоративные инструменты

CrewAI: координация инструментов мультиагентов

Azure OpenAI: рекомендации по безопасности function calling

Исследования и оценка производительности

Function Calling in Large Language Models: A Survey (2024)

Обзор паттернов использования инструментов

API-Bank: Tool-Augmented LLM Benchmark

ToolBench: Tool Learning Evaluation Framework

Loading technique guide…