Загружаем паттерны…
Constitutional AI(CAI)
Использование явного набора принципов для управления самокритикой, доработкой и генерируемой ИИ обратной связью о предпочтениях в процессе обучения
За 30 секунд
- Что это
- Модель учится критиковать и перерабатывать собственные ответы в соответствии с явными принципами, а затем ранжирует ответы с помощью согласованной с принципами обратной связи, без разметки человеком.
- Когда применять
- При обучении систем, когда есть чёткие принципы поведения, но ограниченные возможности для обратной связи от людей, и нужна интерпретируемая согласованность прямо в процессе обучения.
- Осторожно
- Противоречивые или расплывчатые принципы дают несогласованные обучающие сигналы; модель может научиться обходить проверку принципов вместо того, чтобы усвоить сами ценности.
Спросите ИИ-эксперта об этом паттерне
Откроет ассистента с готовым вопросом. Вы проверите его перед отправкой.
Constitutional AI: Обзор
Использование явного набора принципов для управления самокритикой, доработкой и генерируемой ИИ обратной связью о предпочтениях в процессе обучения
- Explicit constitutional principles
- Self-critique and revision data
- Principle-conditioned preference judgments
- Supervised and reinforcement learning stages
- Conflict and ambiguity testing
- Human governance of the constitution
The Agent Architect
Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.
Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.
Источники
Статьи, спецификации и репозитории, на которых основан этот паттерн.
- Constitutional AI: Harmlessness from AI Feedback (2022)arXiv:2212.08073
От инженера, создавшего этот каталог
Проведите ревью архитектуры ваших агентов
На этой странице описан один паттерн. Ваша система использует десятки, и большинство сбоев возникает на стыках. Мы разберём весь дизайн по 288 паттернам каталога: архитектура, надёжность, оценка и стоимость, каждая находка связана с паттерном, который её устраняет.
€750 вместо €1 500, одна неделя, письменный отчёт и разбор в звонке, до 30 сентября