На что обратить внимание: Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

Backdoors require no retraining, pass safety evaluations, and are hard to detect without comparing against original model weights and provenance.

Новости

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

Microsoft Research · Dimitris Papailiopoulos · Опубликовано 10 ноября 2026 г. · 3 мин чтения

Что произошло: Microsoft researchers discovered Lazarus, a backdoor technique that reprograms dormant neurons in AI models to execute malicious commands when triggered.
Почему это важно: Matters for engineers deploying open-weight models or AI agents with tool access, especially those handling sensitive data or infrastructure.
На что обратить внимание: Backdoors require no retraining, pass safety evaluations, and are hard to detect without comparing against original model weights and provenance.

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.

Новости

Microsoft Research · Dimitris Papailiopoulos · Опубликовано 10 ноября 2026 г. · 3 мин чтения

Что произошло: Microsoft researchers discovered Lazarus, a backdoor technique that reprograms dormant neurons in AI models to execute malicious commands when triggered.
Почему это важно: Matters for engineers deploying open-weight models or AI agents with tool access, especially those handling sensitive data or infrastructure.
На что обратить внимание: Backdoors require no retraining, pass safety evaluations, and are hard to detect without comparing against original model weights and provenance.

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.