Loading...
📜
Konstitutionelle Klassifikatoren(CC)
Leichtgewichtige Eingabe- und Ausgabe-Klassifikatoren, trainiert auf synthetischen Daten, die aus einer natürlichsprachlichen Verfassung erzeugt werden, welche erlaubte und blockierte Inhalte definiert. Sie sind kaskadiert, sodass eine günstige Vorprüfung den gesamten Verkehr abdeckt, während verdächtige Fälle eskaliert werden, und der Ausgabe-Klassifikator kann eine streamende Generierung in dem Moment stoppen, in dem ein verstoßendes Token erscheint. Dies unterscheidet sich von Constitutional AI: Constitutional AI richtet das Modell während des Trainings aus, während konstitutionelle Klassifikatoren zur Laufzeit wirkende Schutzmechanismen sind, die aus einer Verfassung trainiert werden.
Komplexität: mediumSicherheits- und Datenschutzmuster
In 30 seconds
- What
- Trainiert schlanke Klassifikatoren auf synthetischen Daten aus einer Verfassung in natürlicher Sprache, prüft damit Eingaben vor der Inferenz und stoppt die Ausgabe beim ersten regelwidrigen Token.
- When to use
- Für Systeme mit hohem Durchsatz, die Inhaltsfilterung zur Laufzeit brauchen, wenn die Verfassungsregeln klar sind und Angriffsmuster für das Training synthetisch erzeugt werden können.
- Watch out
- Auf synthetischen Daten trainierte Klassifikatoren übersehen möglicherweise neuartige Verschleierungen oder adversariale Formulierungen, die in den aus der Verfassung erzeugten Beispielen nicht vorkommen.
Loading technique guide…