Постепенное развёртывание и теневой режим(PRS)

Сторона развёртывания, отвечающая за безопасный выпуск новой версии агента или промпта. Кандидат сначала работает в теневом режиме: он выполняется на реальном продакшен-трафике, но его вывод скрыт от пользователей и офлайн сравнивается с обслуживающей версией; затем он переходит к canary на объёме от 1 до 5 процентов живого трафика, где оценивается с помощью онлайн-evals относительно контрольной группы, а далее к постепенному наращиванию, с автоматическим откатом в тот момент, когда отслеживаемая метрика ухудшается. Сочетание онлайн-evals (оценивающих живой трафик на лету) с офлайн-evals ловит длиннохвостые сбои, которые статичный эталонный набор предсказать не может. В отличие от eval-driven-agent-development, которая контролирует изменения офлайн до слияния, этот подход управляет онлайн-наращиванием после слияния.