Loading...
🧬
Intrinsisches-Alignment-Muster(IAP)
Interne Beobachtungspunkte, die vom Agenten nicht manipuliert werden können und tiefgreifende Täuschungsmanöver verhindern
Komplexität: highSicherheits- und Datenschutzmuster
In 30 seconds
- What
- Bettet unmanipulierbare Beobachtungspunkte in die Verarbeitung eines Agenten ein, um Fehlausrichtung, Täuschung oder Zieldrift zu erkennen, die externe Überwachung nicht erfasst.
- When to use
- Hochriskante Einsätze, bei denen ein Agent davon profitieren könnte, sein wahres Denken oder seine Ziele zu verbergen, und bei denen du mehr erkennen musst, als die Analyse der Ausgaben zeigt.
- Watch out
- Erfordert tiefen Zugriff auf das Innenleben des Modells; den meisten produktiven Systemen fehlt die Transparenz, um das zuverlässig umzusetzen.
Loading technique guide…