Loading...

🎯

Обучение в контексте(ICL)

Настройка модели по инструкциям и демонстрациям в текущем контексте без обновления параметров модели

Сложность: mediumОбучение и адаптация

In 30 seconds

What: Настраивает модель на задачу с помощью инструкций и примеров в промпте, не меняя веса модели, чтобы направлять поведение на новых входных данных.
When to use: Задачи с четкими фиксированными категориями или шаблонами, где несколько размеченных примеров надежно показывают модели, что делать.
Watch out: Качество резко падает, если примеры не соответствуют распределению реальных входных данных или если модель неверно понимает, какие признаки важны.

Loading technique guide…

Patterns

Loading...

Паттерны и методы проектирования

Loading...

🎯

Обучение в контексте(ICL)

Настройка модели по инструкциям и демонстрациям в текущем контексте без обновления параметров модели

Сложность: mediumОбучение и адаптация

In 30 seconds

What: Настраивает модель на задачу с помощью инструкций и примеров в промпте, не меняя веса модели, чтобы направлять поведение на новых входных данных.
When to use: Задачи с четкими фиксированными категориями или шаблонами, где несколько размеченных примеров надежно показывают модели, что делать.
Watch out: Качество резко падает, если примеры не соответствуют распределению реальных входных данных или если модель неверно понимает, какие признаки важны.

Обзор за 30 секунд

Паттерн: Дать примеры задачи в промпте, чтобы модель училась без обновления параметров

Почему: Обеспечивает быструю адаптацию к задаче, не требует обучения и использует распознавание закономерностей моделью для мгновенного результата

Ключевая идея: Модели способны учиться на демонстрациях в контексте, выполняя неявный градиентный спуск во время инференса

Быстрая реализация

1Отбор:Выберите примеры, релевантные контексту задачи

2Форматирование:Структурируйте примеры парами вход-выход

3Промпт:Объедините примеры с целевым запросом

4Вывод:Модель усваивает закономерность из примеров

5Генерация:Примените усвоенную закономерность к новому входу

Example: examples + query → model_inference → output

Что делать и чего избегать

✅Используйте разнообразные качественные примеры, отражающие задачу

✅Сохраняйте единое форматирование во всех примерах

✅По возможности располагайте примеры от простых к сложным

✅Включайте краевые случаи и граничные условия

✅Тестируйте с разным числом примеров (от 1-shot до few-shot)

✅Используйте чёткие разделители между примерами

❌Использовать противоречивые или несогласованные примеры

❌Перегружать контекст избытком примеров

❌Использовать смещённые или нерепрезентативные примеры

❌Смешивать разные типы задач в одном промпте

❌Игнорировать влияние выбора и порядка примеров

Когда использовать

Используйте, когда

• Нужна быстрая адаптация к новым задачам
• Обучающих данных мало или нет
• Задача требует демонстрации, а не описания
• Быстрое прототипирование и эксперименты
• Модель должна понять сложные закономерности

Избегайте, когда

• Доступны большие объёмы обучающих данных
• Задача требует глубоких доменных знаний
• Ограничения окна контекста очень жёсткие
• Требования к точности превышают возможности ICL
• Нужна стабильная производительность на всех вариациях

Ключевые метрики

Точность few-shot

Качество при K примерах

Эффективность примеров

Прирост качества на один пример

Использование контекста

Расход токенов против качества

Перенос на задачи

Обобщение на новые входные данные

Чувствительность к примерам

Разброс качества по наборам примеров

Устойчивость к порядку

Стабильность при разном порядке примеров

Основные сценарии использования

Классификация текста: анализ тональности и тематическая категоризация по размеченным примерам

Извлечение данных: распознавание именованных сущностей, извлечение информации из документов

Преобразование форматов: JSON в XML, трансформация структурированных данных

Вопросы и ответы: доменный QA на примерах пар вопрос-ответ

Генерация кода: задачи программирования с примерами кода вход-выход

Креативное письмо: перенос стиля, генерация контента по стилистическим примерам

Источники и дополнительные материалы

Углубите понимание с помощью этих подобранных материалов

Основополагающие статьи

Language Models are Few-Shot Learners (Brown et al., 2020)

Learning to Retrieve Prompts for In-Context Learning (Rubin et al., 2021)

What Makes Good In-Context Examples for GPT-3? (Liu et al., 2021)

Calibrate Before Use: Improving Few-Shot Performance (Zhao et al., 2021)

Теоретическое понимание (2022-2024)

Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent (Dai et al., 2022)

Transformers Learn In-Context by Gradient Descent (von Oswald et al., 2022)

In-context Learning and Induction Heads (Olsson et al., 2022)

What learning algorithm is in-context learning? Investigations with linear models (Akyürek et al., 2022)

Отбор и оптимизация примеров

Learning To Retrieve Prompts for In-Context Learning (Rubin et al., 2021)

In-Context Example Selection with Influences (Nguyen & Wong, 2023)

Active Example Selection for In-Context Learning (Zhang et al., 2022)

Compositional Exemplars for In-context Learning (Ye et al., 2023)

Chain-of-Thought и рассуждение

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei et al., 2022)

Least-to-Most Prompting Enables Complex Reasoning in Large Language Models (Zhou et al., 2022)

Self-Consistency Improves Chain of Thought Reasoning in Language Models (Wang et al., 2022)

Large Language Models are Zero-Shot Reasoners (Kojima et al., 2022)

Недавние достижения (2023-2024)

In-Context Learning Creates Task Vectors (Hendel et al., 2023)

Many-Shot In-Context Learning (Agarwal et al., 2024)

In-Context Learning with Long Context (Bertsch et al., 2024)

Understanding In-Context Learning via Supportive Pretraining Data (Shin et al., 2024)

Мультимодальное обучение в контексте

Flamingo: a Visual Language Model for Few-Shot Learning (Alayrac et al., 2022)

Multimodal Few-Shot Learning with Frozen Language Models (Tsimpoukelli et al., 2021)

GPT-4V(ision) System Card (OpenAI, 2023)

Visual In-Context Learning for Large Vision-Language Models (Yang et al., 2023)

Ресурсы по реализации

Шаблоны few-shot промптов LangChain

Лучшие практики prompt engineering от OpenAI

Руководство Anthropic по prompt engineering

Обучение в контексте в HuggingFace Transformers

Датасеты и бенчмарки

LAMA: LAnguage Model Analysis (Petroni et al., 2019)

BIG-bench: Beyond the Imitation Game Benchmark

HELM: Holistic Evaluation of Language Models

SuperGLUE: A Stickier Benchmark for General-Purpose Language Understanding

Инструменты и библиотеки

Guidance: язык управления большими языковыми моделями

DSPy: программирование, а не промптинг, базовых моделей

PromptSource: интегрированная среда разработки промптов на естественном языке

OpenPrompt: открытый фреймворк для prompt-обучения

Анализ и оценка

Measuring and Narrowing the Compositionality Gap in Language Models (Press et al., 2022)

Rethinking the Role of Demonstrations: What Makes In-Context Learning Work? (Min et al., 2022)

Ground-Truth Labels Matter: A Deeper Look into Input-Label Demonstrations (Yoo et al., 2022)

Fantastically Ordered Prompts and Where to Find Them (Lu et al., 2021)

Сообщество и обсуждения

r/MachineLearning - обсуждения обучения в контексте

AI Alignment Forum - обучение в контексте

Discord EleutherAI - канал prompt engineering

Discord-сообщество Prompt Engineering

Loading technique guide…