Muster werden geladen…
Strukturierte Ausgaben(SO)
Garantiert durch eingeschränktes Decoding, dass die Modellausgabe einem Schema entspricht. Ein JSON Schema, ein regulärer Ausdruck oder eine Grammatik wird zu einem endlichen Automaten kompiliert, und bei jedem Decoding-Schritt werden die Tokens, die das Schema verletzen würden, ausmaskiert, sodass nur gültige Fortsetzungen gesampelt werden können. Im strikten Modus macht dies fehlerhaftes JSON und ungültige Tool-Argumente unmöglich. Die Funktion ist nativ bei OpenAI, Google und Anthropic sowie in offenen Bibliotheken wie Outlines und vLLM verfügbar.
In 30 Sekunden
- Was
- Kompiliert ein Schema in einen endlichen Automaten und maskiert bei jedem Dekodierschritt ungültige Tokens, sodass die Ausgabe garantiert dem Schema entspricht.
- Wann einsetzen
- Extrahieren strukturierter Daten, Aufrufen von Tools oder Erzeugen von JSON, wenn Parse-Fehler oder ungültige Werte nachgelagerten Code brechen würden.
- Achtung
- Schema-Beschränkungen können das Modell zwingen, technisch gültige, aber semantisch unsinnige Werte auszugeben, wenn die richtige Antwort außerhalb der erlaubten Optionen liegt.
Fragen Sie den KI-Experten zu diesem Pattern
Öffnet den Assistenten mit vorbereiteter Frage. Sie prüfen sie vor dem Senden.
Strukturierte Ausgaben: Überblick
Garantiert durch eingeschränktes Decoding, dass die Modellausgabe einem Schema entspricht. Ein JSON Schema, ein regulärer Ausdruck oder eine Grammatik wird zu einem endlichen Automaten kompiliert, und bei jedem Decoding-Schritt werden die Tokens, die das Schema verletzen würden, ausmaskiert, sodass nur gültige Fortsetzungen gesampelt werden können. Im strikten Modus macht dies fehlerhaftes JSON und ungültige Tool-Argumente unmöglich. Die Funktion ist nativ bei OpenAI, Google und Anthropic sowie in offenen Bibliotheken wie Outlines und vLLM verfügbar.
- Constrained decoding driven by JSON Schema, regex, or grammar
- Schema compiled to a finite-state machine and per-step token mask
- Invalid tokens masked at every decode step in strict mode
- Schema-conforming output guaranteed, not merely requested
- Eliminates JSON parse errors and invalid tool-call arguments
- Native provider support plus Outlines and vLLM
The Agent Architect
Ein Pattern, ein Tradeoff, eine Produktionspanne. Ein kurzes wöchentliches Briefing für alle, die agentische Systeme bauen.
Wöchentliche E-Mail, Abmeldung mit einem Klick. Ihre Adresse wird nur für das Briefing verwendet.
Quellen
Die Veröffentlichungen, Spezifikationen und Repositories, auf denen dieses Muster beruht.
Vom Ingenieur hinter diesem Katalog
Lassen Sie Ihre Agenten-Architektur prüfen
Diese Seite dokumentiert ein Pattern. Ihr System betreibt Dutzende, und die meisten Ausfälle entstehen im Zusammenspiel. Lassen Sie den gesamten Entwurf an den 288 Patterns dieses Katalogs messen: Architektur, Zuverlässigkeit, Evaluation und Kosten, jeder Befund verknüpft mit dem Pattern, das ihn behebt.
750 € statt 1.500 €, eine Woche, schriftlicher Bericht und Walkthrough-Call, bis 30. September