宪章分类器(CC)

轻量级的输入和输出分类器，在由一部自然语言宪章生成的合成数据上训练，该宪章定义了允许和屏蔽的内容。它们以级联方式部署，廉价的筛查覆盖所有流量，可疑情形则升级处理；输出分类器能够在违规token出现的瞬间中止流式生成。这与 Constitutional AI 不同：Constitutional AI 在训练阶段对齐模型，而宪章分类器是从宪章训练而来、在运行时起作用的防护。