Руководство по дообучению
Центр дообучения
Планируйте, обучайте, оценивайте и эксплуатируйте адаптации моделей с явными компромиссами и защитными мерами.
Что меняет дообучение
Дообучение обновляет часть или все параметры предобученной модели по примерам задачи или обратной связи о предпочтениях. Оно может улучшить измеримое поведение, например структуру ответа, тон или точность на задаче, но не добавляет автоматически свежие знания, не устраняет галлюцинации и не делает модель безопасной.
Веские причины попробовать
- • Устойчивое повторяющееся поведение не поддаётся правкам только на уровне промпта
- • У вас есть репрезентативные примеры и надёжный набор для оценки
- • Более короткие промпты или модель поменьше могут снизить стоимость инференса
- • Выбранный чекпоинт и артефакты можно развернуть и контролировать
Причины выбрать другой подход
- • Для изменяющихся знаний или знаний со ссылкой на источник используйте поиск или инструменты
- • Улучшайте промпты, когда нужное поведение описывается понятными инструкциями
- • Чините продукт или конвейер данных, когда модели не хватает нужного контекста
- • Отложите обучение, пока не решены вопросы прав на данные, качества и оценки
Рабочий процесс, ориентированный на выпуск
- 1Опишите цель продукта, критерии приёмки и допустимый бюджет ошибок.
- 2Соберите запечатанную отложенную выборку из успешных, ошибочных и связанных с безопасностью случаев, близких к продакшену.
- 3Измерьте базовые уровни: только промпт, few-shot, поиск и вызов инструментов.
- 4Выберите базовую модель с подходящей лицензией и наименьший практичный метод адаптации.
- 5Проведите короткий воспроизводимый пилот и изучите кривые обучения и примеры ответов.
- 6Сравните качество, регрессии, задержку, пропускную способность и полную стоимость инференса.
- 7Выкатите победивший вариант как canary, с мониторингом и проверенным путём отката.
Минимальный отчёт о сравнении
Базовый чекпоинт, промпт, поиск и дообученный кандидат на одной и той же отложенной выборке
Результаты по срезам с числом примеров, а не только один общий балл
Регрессии по безопасности и базовым способностям с письменными порогами выпуска
Конфигурация обучения, seed, ревизия кода, ревизия данных и хеши артефактов
Измеренные задержка, пропускная способность, память и стоимость на целевом стеке инференса
Назначенный ответственный, план canary, сигналы мониторинга и процедура отката