Loading...
🔦
Spotlighting und Datenmarkierung(SDM)
Eine Familie kostengünstiger Transformationen, die nicht vertrauenswürdigen externen Text zuverlässig von vertrauenswürdigen Anweisungen unterscheidbar machen. Delimiting umschließt externe Inhalte mit eindeutigen Begrenzungen, Datamarking fügt ein spezielles Token in jeden Leerraum des nicht vertrauenswürdigen Abschnitts ein, und eine Kodierung wie base64 trennt ihn zusätzlich vom Anweisungskanal. Es ist eine günstige erste Verteidigungslinie gegen indirekte Prompt-Injection, verliert aber bei adaptiven Angriffen an Wirkung und sollte daher mit gestaffelten Schutzmaßnahmen kombiniert werden.
Komplexität: lowSicherheits- und Datenschutzmuster
In 30 seconds
- What
- Umschließt nicht vertrauenswürdigen externen Text mit eindeutigen Trennzeichen, streut Sondertokens über die Leerzeichen ein oder kodiert ihn per base64, damit er sich sichtbar von vertrauenswürdigen Anweisungen abhebt.
- When to use
- Umgang mit externen Inhalten (Webseiten, Nutzer-Uploads, API-Antworten), die versteckte Injection-Versuche gegen das Modell enthalten könnten.
- Watch out
- Anpassungsfähige Angreifer können Ihre Marker lernen und umgehen; behandeln Sie das nur als erste Schicht, nicht als vollständige Verteidigung.
Loading technique guide…