Loading...
Chain of Verification (CoVe)
Снижает галлюцинации за счёт того, что сначала составляется черновой базовый ответ, затем планируется набор проверочных вопросов к нему, на каждый из которых даётся ответ независимо, чтобы проверки не были смещены черновиком, а итоговый ответ пересматривается с использованием только подтверждённых фактов. Факторизованная проверка, при которой проверки выполняются в отдельных контекстах, превосходит вариант, когда модель перепроверяет собственный черновик, поскольку в этом случае она склонна повторять свои же ошибки.
In 30 seconds
- What
- Составляет черновик ответа, формулирует к нему проверочные вопросы, отвечает на каждый независимо, не видя черновика, а затем переписывает ответ, оставляя только подтверждённые факты.
- When to use
- Фактологические задачи, склонные к галлюцинациям, где утверждения можно разложить на проверяемые вопросы и допустим умеренный рост задержки.
- Watch out
- Плохо составленные проверочные вопросы наследуют ошибки черновика, а независимые ответы увеличивают стоимость и задержку в 2-3 раза.
Loading technique guide…