Loading...
Chain of Verification (CoVe)
Réduit les hallucinations en rédigeant d'abord une réponse de base, en planifiant une série de questions de vérification à son sujet, en répondant à chacune de ces questions de manière indépendante afin que les vérifications ne soient pas biaisées par le brouillon, puis en révisant la réponse finale à l'aide des seuls faits vérifiés. La vérification factorisée, où les contrôles s'exécutent dans des contextes séparés, surpasse le fait de laisser le modèle revérifier son propre brouillon, ce qui tend à reproduire ses propres erreurs.
In 30 seconds
- What
- Rédige une réponse préliminaire, génère des questions de vérification à son sujet, répond à chacune de façon indépendante sans voir le brouillon, puis révise en ne gardant que les faits vérifiés.
- When to use
- Tâches factuelles sujettes aux hallucinations, où les affirmations peuvent se décomposer en questions vérifiables et où un surcoût de latence modéré est acceptable.
- Watch out
- Mal conçues, les questions de vérification héritent des erreurs du brouillon ; répondre de façon indépendante multiplie le coût et la latence par 2 à 3.
Loading technique guide…