Loading...
📜
Classificateurs constitutionnels(CC)
Classificateurs légers d'entrée et de sortie, entraînés sur des données synthétiques générées à partir d'une constitution en langage naturel qui définit les contenus autorisés et bloqués. Ils sont mis en cascade : un filtrage économique couvre l'ensemble du trafic tandis que les cas suspects sont escaladés, et le classificateur de sortie peut interrompre une génération en flux dès qu'un token en infraction apparaît. Cela se distingue de Constitutional AI : Constitutional AI aligne le modèle pendant l'entraînement, tandis que les classificateurs constitutionnels sont des garde-fous à l'exécution entraînés à partir d'une constitution.
Complexité: mediumModèles de sécurité et de confidentialité
In 30 seconds
- What
- Entraîne des classifieurs légers sur des données synthétiques issues d'une constitution en langage naturel, pour filtrer les entrées avant l'inférence et couper la sortie dès le premier jeton en infraction.
- When to use
- Pour des systèmes à fort volume qui exigent un filtrage de contenu à l'exécution, quand les règles de la constitution sont claires et que les schémas d'attaque peuvent être synthétisés pour l'entraînement.
- Watch out
- Des classifieurs entraînés sur des données synthétiques peuvent laisser passer des obfuscations inédites ou des formulations adverses absentes des exemples générés depuis la constitution.
Loading technique guide…