構造化出力(SO)

デコードを制約することで、モデルの出力がスキーマに準拠することを保証します。JSON Schema、正規表現、または文法が有限状態機械にコンパイルされ、各デコードステップでスキーマに違反するトークンがマスクされるため、有効な継続のみがサンプリングされます。厳格モードでは、これにより不正な形式のJSONや無効なツール引数が発生し得なくなります。この機能はOpenAI、Google、Anthropicでネイティブに利用でき、OutlinesやvLLMといったオープンなライブラリでも利用できます。