Новости

How Agent Anomaly Detection scores on benchmarks we didn't write- Google Developers Blog

Google Developers · Опубликовано 12 ноября 2026 г. · 3 мин чтения

За 30 секунд

Что произошло: Google released Agent Anomaly Detection, which flags AI agent sessions acting outside intended boundaries, scoring 87% on harmful instruction detection across five public benchmarks.
Почему это важно: Teams deploying AI agents that read email, book travel, or handle money should care, especially when agents access untrusted data sources prone to prompt injection attacks.
На что обратить внимание: Detection weakens on poisoned memory attacks (22% catch rate), small actions like single page visits, and agents using high-impact tools in normal work, causing 2-16% false alarms.

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.

Новости

Google Developers · Опубликовано 12 ноября 2026 г. · 3 мин чтения

Что произошло: Google released Agent Anomaly Detection, which flags AI agent sessions acting outside intended boundaries, scoring 87% on harmful instruction detection across five public benchmarks.
Почему это важно: Teams deploying AI agents that read email, book travel, or handle money should care, especially when agents access untrusted data sources prone to prompt injection attacks.
На что обратить внимание: Detection weakens on poisoned memory attacks (22% catch rate), small actions like single page visits, and agents using high-impact tools in normal work, causing 2-16% false alarms.

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.