Новости
The Agent Said It Was Done. The Database Disagreed.
Hugging Face · Опубликовано · 3 мин чтения
За 30 секунд
- Что произошло
- Microsoft ThinkingBox grades AI agents on actual database changes, not just tool calls, revealing that 67% of failed attempts still looked successful.
- Почему это важно
- Enterprise engineers deploying AI agents for stateful workflows like customer service, refunds, or ticketing need to measure real outcomes, not just response quality.
- На что обратить внимание
- Pass@1 scores hide consistency problems. Claude Opus 5.5 and GPT-6 Astra retain 71-78% reliability across 20 runs, while others drop to 8%, making single-attempt benchmarks misleading.
- agent
Паттерны, стоящие за этой новостью
Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.
The Agent Architect
Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.
Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.