Dans l'actualité
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
Microsoft Research · Dimitris Papailiopoulos · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- Microsoft researchers discovered Lazarus, a backdoor technique that reprograms dormant neurons in AI models to execute malicious commands when triggered.
- Pourquoi ça compte
- Matters for engineers deploying open-weight models or AI agents with tool access, especially those handling sensitive data or infrastructure.
- Vigilance
- Backdoors require no retraining, pass safety evaluations, and are hard to detect without comparing against original model weights and provenance.
- agent
Les patterns derrière cette actualité
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.