Chargement des modèles…
Chain of Verification (CoVe)
Réduit les hallucinations en rédigeant d'abord une réponse de base, en planifiant une série de questions de vérification à son sujet, en répondant à chacune de ces questions de manière indépendante afin que les vérifications ne soient pas biaisées par le brouillon, puis en révisant la réponse finale à l'aide des seuls faits vérifiés. La vérification factorisée, où les contrôles s'exécutent dans des contextes séparés, surpasse le fait de laisser le modèle revérifier son propre brouillon, ce qui tend à reproduire ses propres erreurs.
Aperçu en 30 secondes
- Quoi
- Rédige une réponse préliminaire, génère des questions de vérification à son sujet, répond à chacune de façon indépendante sans voir le brouillon, puis révise en ne gardant que les faits vérifiés.
- Quand l'utiliser
- Tâches factuelles sujettes aux hallucinations, où les affirmations peuvent se décomposer en questions vérifiables et où un surcoût de latence modéré est acceptable.
- Vigilance
- Mal conçues, les questions de vérification héritent des erreurs du brouillon ; répondre de façon indépendante multiplie le coût et la latence par 2 à 3.
Interrogez l'expert IA sur ce pattern
Ouvre l'assistant avec votre question préremplie. Vous la relisez avant l'envoi.
Chain of Verification (CoVe): Vue d’ensemble
Réduit les hallucinations en rédigeant d'abord une réponse de base, en planifiant une série de questions de vérification à son sujet, en répondant à chacune de ces questions de manière indépendante afin que les vérifications ne soient pas biaisées par le brouillon, puis en révisant la réponse finale à l'aide des seuls faits vérifiés. La vérification factorisée, où les contrôles s'exécutent dans des contextes séparés, surpasse le fait de laisser le modèle revérifier son propre brouillon, ce qui tend à reproduire ses propres erreurs.
- Generates a baseline draft answer first
- Plans targeted verification questions about the draft
- Answers each verification question independently of the draft
- Factored execution stops the draft from biasing its own checks
- Revises the final answer to drop unverified claims
- Cuts hallucination on list-based and closed-book factual tasks
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.
Références
Les articles, spécifications et dépôts sur lesquels repose ce modèle.
- Chain-of-Verification Reduces Hallucination in Large Language Models - Dhuliawala et al. (ArXiv 2023)arXiv:2309.11495
- Chain-of-Verification (CoVe), Meta AI - Findings of ACL 2024
Par l’ingénieur derrière ce catalogue
Faites auditer l’architecture de vos agents
Cette page documente un pattern. Votre système en fait tourner des dizaines, et l’essentiel des pannes se loge dans la façon dont ils s’articulent. Faites relire toute la conception à l’aune des 288 patterns de ce catalogue : architecture, fiabilité, évaluation et coûts, chaque constat relié au pattern qui le corrige.
750 € au lieu de 1 500 €, une semaine, rapport écrit et appel de restitution, jusqu’au 30 septembre