Loading...
Разработка на основе eval-ов (CI агентов)(EDD)
Дисциплина жизненного цикла разработки, при которой агенты и промпты строятся прежде всего под evals. Тщательно отобранные эталонные наборы данных (примерно от 50 до 500 случаев со смещением в сторону известных режимов отказа) версионируются вместе с промптами, запускаются как набор регрессионных тестов на каждом pull request, а слияние или продвижение ограничивается пороговыми значениями метрик. Конвейер фиксирует версии модели и судьи, поэтому тихое обновление модели на стороне провайдера обнаруживается как регрессия, а не поглощается незаметно, и выстраивает проверки по этапам: сначала lint, затем офлайн-eval, затем контроль стоимости, прежде чем изменение можно будет слить. В отличие от agent-observability-tracing, которая представляет собой телеметрию времени выполнения, а не контроль перед слиянием, и от фиксированных публичных бенчмарков, которые не являются собственными командными регрессионными наборами в CI.
In 30 seconds
- What
- Эталонные наборы данных под контролем версий запускаются как регрессионные наборы на каждом PR, а слияние допускается только при достижении пороговых значений метрик, с зафиксированными версиями модели и судьи.
- When to use
- Команды, выпускающие агентов, которым нужно замечать негласные обновления моделей, непрерывно покрывать известные режимы отказа и измеримо проверять изменения промптов.
- Watch out
- Эталонные наборы устаревают или перестают соответствовать реальным сбоям в продакшене, если их не поддерживать активно и не смещать акцент на актуальные режимы отказа.
Loading technique guide…