Loading...
🔎
Chain of Verification(CoVe)
まずベースとなる回答を下書きし、それに関する一連の検証用の質問を計画し、下書きに影響されないよう各質問に独立して回答したうえで、検証済みの事実のみを用いて最終回答を修正することで、ハルシネーションを低減する。検証を別々のコンテキストで実行するファクター化された検証は、モデルに自身の下書きを再チェックさせる方法よりも優れている。後者は自らの誤りを繰り返しがちだからである。
複雑さ: medium推論技法
In 30 seconds
- What
- まず回答の下書きを作り、それについて検証用の質問を生成し、下書きを見ずに各質問へ独立して答えたうえで、確認済みの事実だけを使って回答を書き直します。
- When to use
- ハルシネーションが起きやすい事実ベースのタスクで、主張を検証可能な質問に分解でき、ある程度のレイテンシ増加を許容できる場合。
- Watch out
- 検証用の質問の設計が甘いと、下書きの誤りをそのまま引き継いでしまいます。独立した回答生成はコストとレイテンシを2倍から3倍に増やします。
Loading technique guide…