Loading...

🎯

Apprentissage en contexte(ICL)

Conditionnement d'un modèle à partir d'instructions et de démonstrations présentes dans le contexte actuel, sans mise à jour des paramètres du modèle

Complexité: mediumApprentissage et adaptation

In 30 seconds

What: Conditionne un modèle avec des instructions de tâche et des exemples dans le prompt, sans modifier ses poids, pour guider son comportement sur de nouvelles entrées.
When to use: Tâches aux catégories ou motifs clairs et fixes, où quelques exemples annotés montrent de façon fiable au modèle ce qu'il doit faire.
Watch out: Les performances chutent nettement si les exemples ne correspondent pas à la distribution des entrées réelles ou si le modèle se trompe sur les caractéristiques qui comptent.

Loading technique guide…

Patterns

Loading...

Modèles et techniques de conception

Loading...

🎯

Apprentissage en contexte(ICL)

Conditionnement d'un modèle à partir d'instructions et de démonstrations présentes dans le contexte actuel, sans mise à jour des paramètres du modèle

Complexité: mediumApprentissage et adaptation

In 30 seconds

What: Conditionne un modèle avec des instructions de tâche et des exemples dans le prompt, sans modifier ses poids, pour guider son comportement sur de nouvelles entrées.
When to use: Tâches aux catégories ou motifs clairs et fixes, où quelques exemples annotés montrent de façon fiable au modèle ce qu'il doit faire.
Watch out: Les performances chutent nettement si les exemples ne correspondent pas à la distribution des entrées réelles ou si le modèle se trompe sur les caractéristiques qui comptent.

Aperçu en 30 secondes

Modèle : Fournir des exemples de tâche dans le prompt pour permettre au modèle d'apprendre sans mise à jour des paramètres

Pourquoi : Permet une adaptation rapide, ne nécessite aucun entraînement et exploite la reconnaissance de motifs du modèle pour une performance immédiate

Idée clé : Les modèles peuvent apprendre à partir de démonstrations en contexte, effectuant une descente de gradient implicite pendant l'inférence

Mise en œuvre rapide

1Sélectionner:Choisir des exemples pertinents pour le contexte de la tâche

2Formater:Structurer les exemples en paires entrée-sortie

3Prompt:Combiner les exemples avec la requête cible

4Inférer:Le modèle apprend le motif à partir des exemples

5Générer:Appliquer le motif appris à une nouvelle entrée

Example: examples + query → model_inference → output

À faire et à éviter

✅Utiliser des exemples variés et de haute qualité, représentatifs de la tâche

✅Garder un formatage cohérent sur tous les exemples

✅Ordonner les exemples du simple au complexe quand c'est possible

✅Inclure des cas limites et des conditions aux bornes

✅Tester avec différents nombres d'exemples (1-shot à few-shot)

✅Utiliser des séparateurs clairs entre les exemples

❌Utiliser des exemples contradictoires ou incohérents

❌Surcharger le contexte avec trop d'exemples

❌Utiliser des exemples biaisés ou non représentatifs

❌Mélanger des types de tâches différents dans un même prompt

❌Ignorer les effets de sélection et d'ordre des exemples

Quand l’utiliser

À utiliser quand

• Une adaptation rapide à de nouvelles tâches est nécessaire
• Données d'entraînement limitées ou inexistantes
• La tâche exige une démonstration plutôt qu'une description
• Prototypage et expérimentation rapides
• Le modèle doit comprendre des motifs complexes

À éviter quand

• De grandes quantités de données d'entraînement sont disponibles
• La tâche demande une expertise métier approfondie
• Les limites de fenêtre de contexte sont sévères
• Les exigences de précision dépassent les capacités de l'ICL
• Une performance constante d'une variante à l'autre est requise

Indicateurs clés

Précision few-shot

Performance avec K exemples

Efficacité par exemple

Gain de performance par exemple

Utilisation du contexte

Consommation de tokens face à la performance

Transfert de tâche

Généralisation à des entrées inédites

Sensibilité aux exemples

Variance de performance selon les jeux d'exemples

Robustesse à l'ordre

Stabilité selon l'ordre des exemples

Principaux cas d’usage

Classification de texte : analyse de sentiment, catégorisation thématique avec exemples annotés

Extraction de données : reconnaissance d'entités nommées, extraction d'informations depuis des documents

Conversion de format : JSON vers XML, transformation de données structurées

Questions-réponses : QA spécialisée avec des paires question-réponse d'exemple

Génération de code : tâches de programmation avec exemples de code entrée-sortie

Écriture créative : transfert de style, génération de contenu à partir d'exemples stylistiques

Références et lectures complémentaires

Approfondissez le sujet avec ces ressources sélectionnées

Articles fondateurs

Language Models are Few-Shot Learners (Brown et al., 2020)

Learning to Retrieve Prompts for In-Context Learning (Rubin et al., 2021)

What Makes Good In-Context Examples for GPT-3? (Liu et al., 2021)

Calibrate Before Use: Improving Few-Shot Performance (Zhao et al., 2021)

Compréhension théorique (2022-2024)

Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent (Dai et al., 2022)

Transformers Learn In-Context by Gradient Descent (von Oswald et al., 2022)

In-context Learning and Induction Heads (Olsson et al., 2022)

What learning algorithm is in-context learning? Investigations with linear models (Akyürek et al., 2022)

Sélection et optimisation des exemples

Learning To Retrieve Prompts for In-Context Learning (Rubin et al., 2021)

In-Context Example Selection with Influences (Nguyen & Wong, 2023)

Active Example Selection for In-Context Learning (Zhang et al., 2022)

Compositional Exemplars for In-context Learning (Ye et al., 2023)

Chain-of-Thought et raisonnement

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei et al., 2022)

Least-to-Most Prompting Enables Complex Reasoning in Large Language Models (Zhou et al., 2022)

Self-Consistency Improves Chain of Thought Reasoning in Language Models (Wang et al., 2022)

Large Language Models are Zero-Shot Reasoners (Kojima et al., 2022)

Avancées récentes (2023-2024)

In-Context Learning Creates Task Vectors (Hendel et al., 2023)

Many-Shot In-Context Learning (Agarwal et al., 2024)

In-Context Learning with Long Context (Bertsch et al., 2024)

Understanding In-Context Learning via Supportive Pretraining Data (Shin et al., 2024)

Apprentissage en contexte multimodal

Flamingo: a Visual Language Model for Few-Shot Learning (Alayrac et al., 2022)

Multimodal Few-Shot Learning with Frozen Language Models (Tsimpoukelli et al., 2021)

GPT-4V(ision) System Card (OpenAI, 2023)

Visual In-Context Learning for Large Vision-Language Models (Yang et al., 2023)

Ressources d'implémentation

Modèles de prompts few-shot LangChain

Bonnes pratiques OpenAI en prompt engineering

Guide de prompt engineering Anthropic

Apprentissage en contexte avec HuggingFace Transformers

Jeux de données et benchmarks

LAMA: LAnguage Model Analysis (Petroni et al., 2019)

BIG-bench: Beyond the Imitation Game Benchmark

HELM: Holistic Evaluation of Language Models

SuperGLUE: A Stickier Benchmark for General-Purpose Language Understanding

Outils et bibliothèques

Guidance : un langage de guidage pour piloter les grands modèles de langage

DSPy : programmer, et non prompter, les modèles de fondation

PromptSource : un environnement de développement intégré pour les prompts en langage naturel

OpenPrompt : un framework open source pour l'apprentissage par prompts

Analyse et évaluation

Measuring and Narrowing the Compositionality Gap in Language Models (Press et al., 2022)

Rethinking the Role of Demonstrations: What Makes In-Context Learning Work? (Min et al., 2022)

Ground-Truth Labels Matter: A Deeper Look into Input-Label Demonstrations (Yoo et al., 2022)

Fantastically Ordered Prompts and Where to Find Them (Lu et al., 2021)

Communauté et discussions

r/MachineLearning - discussions sur l'apprentissage en contexte

AI Alignment Forum - apprentissage en contexte

Discord EleutherAI - canal prompt engineering

Communauté Discord Prompt Engineering

Loading technique guide…