Chargement des modèles…
Spotlighting et marquage des données(SDM)
Une famille de transformations peu coûteuses qui rendent le texte externe non fiable clairement distinguable des instructions de confiance. Le délimitage entoure le contenu externe de frontières uniques, le datamarking insère un token spécial dans chaque espace du segment non fiable, et un encodage tel que base64 le sépare davantage du canal d'instructions. C'est une première ligne de défense économique contre l'injection de prompt indirecte, mais elle se dégrade face aux attaques adaptatives : elle doit donc être associée à des défenses en couches.
Aperçu en 30 secondes
- Quoi
- Entoure le texte externe non fiable de délimiteurs uniques, insère des jetons spéciaux à la place des espaces, ou l'encode en base64 afin de le distinguer visuellement des instructions de confiance.
- Quand l'utiliser
- Traitement de contenus externes (pages web, fichiers téléversés par les utilisateurs, réponses d'API) susceptibles de contenir des tentatives d'injection cachées visant le modèle.
- Vigilance
- Des attaquants adaptatifs peuvent apprendre vos marqueurs et les contourner : considérez ce mécanisme comme une première couche seulement, pas comme une défense complète.
Interrogez l'expert IA sur ce pattern
Ouvre l'assistant avec votre question préremplie. Vous la relisez avant l'envoi.
Spotlighting et marquage des données: Vue d’ensemble
Une famille de transformations peu coûteuses qui rendent le texte externe non fiable clairement distinguable des instructions de confiance. Le délimitage entoure le contenu externe de frontières uniques, le datamarking insère un token spécial dans chaque espace du segment non fiable, et un encodage tel que base64 le sépare davantage du canal d'instructions. C'est une première ligne de défense économique contre l'injection de prompt indirecte, mais elle se dégrade face aux attaques adaptatives : elle doit donc être associée à des défenses en couches.
- Delimiting marks the start and end of untrusted spans
- Datamarking interleaves a special token across untrusted text
- Encoding (base64/rot13) moves data off the instruction channel
- Model learns to treat marked spans as data, not commands
- Very low latency and token overhead
- Reduces indirect injection but not adaptive-attack proof
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.
Références
Les articles, spécifications et dépôts sur lesquels repose ce modèle.
Par l’ingénieur derrière ce catalogue
Faites red-teamer votre système d’agents
Les protections décrites ici ne tiennent que si quelqu’un tente de les casser. Faites tester le vôtre comme le ferait un vrai attaquant : injection de prompt, jailbreaks, détournement d’outils et exfiltration de données, chaque constat rédigé avec son correctif.
750 € au lieu de 1 500 €, une semaine, rapport écrit et appel de restitution, jusqu’au 30 septembre