Muster werden geladen…
Chain of Verification (CoVe)
Reduziert Halluzinationen, indem zunächst eine Basisantwort entworfen, eine Reihe von Verifikationsfragen dazu geplant und jede dieser Fragen unabhängig beantwortet wird, sodass die Prüfungen nicht durch den Entwurf verzerrt werden, und die endgültige Antwort anschließend allein anhand der verifizierten Fakten überarbeitet wird. Faktorisierte Verifikation, bei der die Prüfungen in getrennten Kontexten ablaufen, ist wirksamer, als das Modell seinen eigenen Entwurf erneut prüfen zu lassen, wobei es dazu neigt, seine eigenen Fehler zu wiederholen.
In 30 Sekunden
- Was
- Entwirft eine Antwort, erzeugt dazu Prüffragen, beantwortet jede Frage unabhängig und ohne Blick auf den Entwurf und überarbeitet die Antwort dann allein anhand bestätigter Fakten.
- Wann einsetzen
- Faktenlastige Aufgaben mit Halluzinationsrisiko, bei denen sich Aussagen in prüfbare Fragen zerlegen lassen und ein moderater Latenzaufschlag vertretbar ist.
- Achtung
- Schlecht formulierte Prüffragen übernehmen die Fehler des Entwurfs; das unabhängige Beantworten erhöht Kosten und Latenz um das 2- bis 3-Fache.
Fragen Sie den KI-Experten zu diesem Pattern
Öffnet den Assistenten mit vorbereiteter Frage. Sie prüfen sie vor dem Senden.
Chain of Verification (CoVe): Überblick
Reduziert Halluzinationen, indem zunächst eine Basisantwort entworfen, eine Reihe von Verifikationsfragen dazu geplant und jede dieser Fragen unabhängig beantwortet wird, sodass die Prüfungen nicht durch den Entwurf verzerrt werden, und die endgültige Antwort anschließend allein anhand der verifizierten Fakten überarbeitet wird. Faktorisierte Verifikation, bei der die Prüfungen in getrennten Kontexten ablaufen, ist wirksamer, als das Modell seinen eigenen Entwurf erneut prüfen zu lassen, wobei es dazu neigt, seine eigenen Fehler zu wiederholen.
- Generates a baseline draft answer first
- Plans targeted verification questions about the draft
- Answers each verification question independently of the draft
- Factored execution stops the draft from biasing its own checks
- Revises the final answer to drop unverified claims
- Cuts hallucination on list-based and closed-book factual tasks
The Agent Architect
Ein Pattern, ein Tradeoff, eine Produktionspanne. Ein kurzes wöchentliches Briefing für alle, die agentische Systeme bauen.
Wöchentliche E-Mail, Abmeldung mit einem Klick. Ihre Adresse wird nur für das Briefing verwendet.
Quellen
Die Veröffentlichungen, Spezifikationen und Repositories, auf denen dieses Muster beruht.
- Chain-of-Verification Reduces Hallucination in Large Language Models - Dhuliawala et al. (ArXiv 2023)arXiv:2309.11495
- Chain-of-Verification (CoVe), Meta AI - Findings of ACL 2024
Vom Ingenieur hinter diesem Katalog
Lassen Sie Ihre Agenten-Architektur prüfen
Diese Seite dokumentiert ein Pattern. Ihr System betreibt Dutzende, und die meisten Ausfälle entstehen im Zusammenspiel. Lassen Sie den gesamten Entwurf an den 288 Patterns dieses Katalogs messen: Architektur, Zuverlässigkeit, Evaluation und Kosten, jeder Befund verknüpft mit dem Pattern, das ihn behebt.
750 € statt 1.500 €, eine Woche, schriftlicher Bericht und Walkthrough-Call, bis 30. September