Загружаем паттерны…
Chain of Verification (CoVe)
Снижает галлюцинации за счёт того, что сначала составляется черновой базовый ответ, затем планируется набор проверочных вопросов к нему, на каждый из которых даётся ответ независимо, чтобы проверки не были смещены черновиком, а итоговый ответ пересматривается с использованием только подтверждённых фактов. Факторизованная проверка, при которой проверки выполняются в отдельных контекстах, превосходит вариант, когда модель перепроверяет собственный черновик, поскольку в этом случае она склонна повторять свои же ошибки.
За 30 секунд
- Что это
- Составляет черновик ответа, формулирует к нему проверочные вопросы, отвечает на каждый независимо, не видя черновика, а затем переписывает ответ, оставляя только подтверждённые факты.
- Когда применять
- Фактологические задачи, склонные к галлюцинациям, где утверждения можно разложить на проверяемые вопросы и допустим умеренный рост задержки.
- Осторожно
- Плохо составленные проверочные вопросы наследуют ошибки черновика, а независимые ответы увеличивают стоимость и задержку в 2-3 раза.
Спросите ИИ-эксперта об этом паттерне
Откроет ассистента с готовым вопросом. Вы проверите его перед отправкой.
Chain of Verification (CoVe): Обзор
Снижает галлюцинации за счёт того, что сначала составляется черновой базовый ответ, затем планируется набор проверочных вопросов к нему, на каждый из которых даётся ответ независимо, чтобы проверки не были смещены черновиком, а итоговый ответ пересматривается с использованием только подтверждённых фактов. Факторизованная проверка, при которой проверки выполняются в отдельных контекстах, превосходит вариант, когда модель перепроверяет собственный черновик, поскольку в этом случае она склонна повторять свои же ошибки.
- Generates a baseline draft answer first
- Plans targeted verification questions about the draft
- Answers each verification question independently of the draft
- Factored execution stops the draft from biasing its own checks
- Revises the final answer to drop unverified claims
- Cuts hallucination on list-based and closed-book factual tasks
The Agent Architect
Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.
Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.
Источники
Статьи, спецификации и репозитории, на которых основан этот паттерн.
- Chain-of-Verification Reduces Hallucination in Large Language Models - Dhuliawala et al. (ArXiv 2023)arXiv:2309.11495
- Chain-of-Verification (CoVe), Meta AI - Findings of ACL 2024
От инженера, создавшего этот каталог
Проведите ревью архитектуры ваших агентов
На этой странице описан один паттерн. Ваша система использует десятки, и большинство сбоев возникает на стыках. Мы разберём весь дизайн по 288 паттернам каталога: архитектура, надёжность, оценка и стоимость, каждая находка связана с паттерном, который её устраняет.
€750 вместо €1 500, одна неделя, письменный отчёт и разбор в звонке, до 30 сентября