Modèles de sécurité et de confidentialité

Architecture de sécurité multicouche mettant en œuvre le modèle du fromage suisse pour la sûreté de l'IA

Application dynamique de règles fondée sur le contexte, les exigences de flux de données et des schémas conditionnels

Agent de garde-fou dédié qui surveille et protège les agents cibles grâce à des contrôles de sécurité dynamiques

Points d'observation internes que l'agent ne peut pas manipuler, empêchant toute manœuvre dissimulée

Protège les systèmes de mémoire des agents contre les manipulations malveillantes et la corruption progressive

Empêche que les agents soient manipulés pour exécuter des actions malveillantes via les outils

Empêche l'élévation de privilèges et les opérations non autorisées grâce à un contrôle d'accès strict

Système de sécurité adaptatif tout au long de la vie qui génère et affine dynamiquement les contrôles de sécurité

Modélisation complète des menaces pour les environnements multi-agents avec orchestration de la sécurité

Protège les prompts système contre les tentatives d'extraction et de manipulation

Traitement des données préservant la confidentialité avec des garanties mathématiques de confidentialité

Approche « ne jamais faire confiance, toujours vérifier » pour la sécurité des agents

Collaboration préservant la confidentialité entre plusieurs agents sans révéler de données privées

Application automatisée de la conformité au RGPD, à l'HIPAA, à la SOX et aux réglementations

Surveillance de sécurité en temps réel et réponse automatisée aux menaces

Authentification, autorisation et vérification d'identité sécurisées des agents

Techniques complètes d'anonymisation des données, notamment K-anonymity, L-diversity, T-closeness et la génération de données synthétiques pour les systèmes agentiques

Environnements d'exécution de confiance (TEE) matériels protégeant les agents IA et le traitement des données dans des environnements non fiables

Architecture de stockage sécurisé multiniveau combinant des coffres locaux sur l'appareil, des coffres distants sur serveur et une mise en cache chiffrée pour les systèmes d'IA agentique

Architecture agentique distribuée combinant des agents de traitement locaux et des agents d'agrégation distants, avec des techniques d'anonymisation avancées pour une IA respectueuse de la vie privée

Divise l'agent en un LLM privilégié qui ne voit que les instructions utilisateur de confiance et planifie les flux de contrôle et de données, et un LLM mis en quarantaine qui traite le contenu non fiable sans jamais pouvoir influencer le flux de contrôle. Un interpréteur de suivi des capacités applique des politiques explicites de flux de données : ainsi, les instructions injectées dans les sorties d'outils ne peuvent jamais déclencher d'actions non autorisées. Il s'agit d'une défense par conception plutôt que d'un filtrage probabiliste.

Une famille de transformations peu coûteuses qui rendent le texte externe non fiable clairement distinguable des instructions de confiance. Le délimitage entoure le contenu externe de frontières uniques, le datamarking insère un token spécial dans chaque espace du segment non fiable, et un encodage tel que base64 le sépare davantage du canal d'instructions. C'est une première ligne de défense économique contre l'injection de prompt indirecte, mais elle se dégrade face aux attaques adaptatives : elle doit donc être associée à des défenses en couches.

Exécute le code généré par l'agent, les commandes shell et le traitement de contenu non fiable dans des environnements isolés dotés d'un système de fichiers cloisonné et d'une liste d'autorisation du trafic réseau sortant médiatisée par un proxy. Même un agent victime d'une injection de prompt ne peut lire les secrets de l'hôte, accéder à des fichiers hors de son périmètre ni exfiltrer des données vers un domaine non approuvé. L'isolation repose sur des primitives du système d'exploitation telles que Seatbelt et bubblewrap, sur des micro-VM ou des conteneurs, ou sur une infrastructure de bac à sable dédiée telle que E2B, Modal et Docker.

Classificateurs légers d'entrée et de sortie, entraînés sur des données synthétiques générées à partir d'une constitution en langage naturel qui définit les contenus autorisés et bloqués. Ils sont mis en cascade : un filtrage économique couvre l'ensemble du trafic tandis que les cas suspects sont escaladés, et le classificateur de sortie peut interrompre une génération en flux dès qu'un token en infraction apparaît. Cela se distingue de Constitutional AI : Constitutional AI aligne le modèle pendant l'entraînement, tandis que les classificateurs constitutionnels sont des garde-fous à l'exécution entraînés à partir d'une constitution.

Confère aux agents une identité vérifiable ainsi qu'une autorité cadrée et auditable pour agir au nom d'un utilisateur. Des tokens OAuth et OIDC de courte durée correspondent à des capacités explicites, des tokens de délégation liés à l'intention encodent ce que l'agent est autorisé à faire, et des attestations vérifiables permettent aux agents d'établir la confiance à travers les sauts MCP et A2A. Chaque action porte une revendication vérifiable : l'autorité peut ainsi être restreinte en amont et auditée en aval, et les requêtes hors périmètre sont rejetées au niveau du serveur de ressources.

Limite l'impact le plus défavorable d'un agent défaillant avant qu'il n'agisse, au lieu de se contenter de détecter les abus après coup. Les outils sont classés par réversibilité et par impact (la lecture est libre, l'écriture est validée, les actions destructrices sont mises en pause) ; l'autorité est cadrée selon le moindre privilège pour chaque tâche ; l'autonomie est graduée (de l'assistance, à la proposition-et-approbation, à l'action-et-audit, jusqu'à l'observation) et se mérite à mesure que la fiabilité est démontrée ; les étapes irréversibles déclenchent une simulation ou un aperçu du plan afin qu'un humain examine le plan plutôt que ses conséquences ; et un coupe-circuit avec capture d'état et mise en quarantaine peut arrêter l'agent en pleine exécution. À distinguer de l'humain dans la boucle : celui-ci relève d'une posture de supervision, tandis que ce modèle borne les capacités par la réversibilité. À distinguer du bac à sable pour agents : celui-ci isole l'environnement d'exécution, tandis que ce modèle hiérarchise la réversibilité par outil et gradue l'autonomie. À distinguer de la prévention des abus d'outils : celle-ci défend contre les abus provoqués par injection, et non contre la classification du rayon d'impact.