Loading...

🧠

Systèmes de méta-apprentissage(MLS)

Optimisation sur une distribution de tâches afin qu'un modèle puisse s'adapter à une nouvelle tâche connexe à partir de données limitées

Complexité: highApprentissage et adaptation

In 30 seconds

What: Entraîne un modèle sur de nombreuses tâches apparentées pour qu'il s'adapte vite à de nouvelles tâches avec seulement quelques exemples et quelques pas de gradient.
When to use: Apprentissage few-shot, quand vous disposez de nombreuses tâches similaires mais de très peu de données étiquetées par nouvelle tâche au moment du déploiement.
Watch out: Exige des distributions de tâches soigneusement constituées : un échantillonnage médiocre ou un décalage entre tâches de méta-entraînement et de méta-test ruine les performances.

Loading technique guide…

Patterns

Loading...

Modèles et techniques de conception

Loading...

🧠

Systèmes de méta-apprentissage(MLS)

Optimisation sur une distribution de tâches afin qu'un modèle puisse s'adapter à une nouvelle tâche connexe à partir de données limitées

Complexité: highApprentissage et adaptation

In 30 seconds

What: Entraîne un modèle sur de nombreuses tâches apparentées pour qu'il s'adapte vite à de nouvelles tâches avec seulement quelques exemples et quelques pas de gradient.
When to use: Apprentissage few-shot, quand vous disposez de nombreuses tâches similaires mais de très peu de données étiquetées par nouvelle tâche au moment du déploiement.
Watch out: Exige des distributions de tâches soigneusement constituées : un échantillonnage médiocre ou un décalage entre tâches de méta-entraînement et de méta-test ruine les performances.

Aperçu en 30 secondes

Modèle : Apprendre à apprendre : acquérir des méta-connaissances permettant une adaptation rapide à de nouvelles tâches avec très peu de données

Pourquoi : Permet l'apprentissage few-shot, l'adaptation rapide de domaine et un transfert de connaissances efficace entre tâches apparentées

Idée clé : Les modèles apprennent des procédures d'optimisation et des biais inductifs qui se généralisent à toute la distribution de tâches

Mise en œuvre rapide

1Tâches:Définir une distribution de tâches d'apprentissage apparentées

2Méta-entraînement:Apprendre à s'adapter vite sur toute la distribution de tâches

3Ensemble de support:Fournir quelques exemples de la nouvelle tâche cible

4Adapter:Se spécialiser rapidement grâce aux méta-connaissances

5Requête:Exécuter la tâche cible avec très peu d'exemples

Example: task_distribution → meta_model → support_examples → adapted_model → predictions

À faire et à éviter

✅Concevoir des distributions de tâches de méta-entraînement variées

✅Équilibrer complexité et similarité des tâches en méta-entraînement

✅Utiliser des découpages train/validation/test propres au niveau des tâches

✅Surveiller le surapprentissage sur les tâches de méta-entraînement

✅Mettre en œuvre des approches avec et sans gradient

✅Suivre la vitesse d'adaptation et les métriques de performance finale

❌Utiliser des tâches identiques en méta-entraînement et en méta-test

❌Ignorer le surcoût de calcul de la méta-optimisation

❌L'appliquer à des domaines à diversité de tâches insuffisante

❌Sauter les études d'ablation sur les composants du méta-apprentissage

❌Utiliser des ensembles de support trop petits pour l'évaluation

Quand l’utiliser

À utiliser quand

• De nombreuses tâches apparentées, chacune avec peu de données
• Besoin d'une adaptation rapide à de nouveaux domaines
• Les tâches partagent une structure ou des motifs sous-jacents
• Les exigences d'apprentissage few-shot sont critiques
• Le domaine possède une distribution naturelle de tâches

À éviter quand

• Une tâche unique avec des données d'entraînement abondantes
• Les tâches sont totalement sans rapport entre elles
• Les contraintes d'inférence en temps réel sont sévères
• Ressources de calcul limitées pour le méta-entraînement
• La distribution de tâches est mal définie

Indicateurs clés

Précision few-shot

Performance avec K exemples par classe

Vitesse d'adaptation

Nombre de pas de gradient jusqu'à convergence

Efficacité du transfert

Performance face à la référence sur de nouvelles tâches

Méta-généralisation

Performance sur des types de tâches inédits

Efficacité en échantillons

Nombre d'exemples requis pour la performance visée

Coût de calcul

FLOPs pour le méta-entraînement et l'adaptation

Principaux cas d’usage

Classification few-shot : reconnaissance d'images avec peu d'exemples annotés par classe

Adaptation de domaine : adapter rapidement des modèles à de nouveaux domaines avec très peu de données

Recherche d'architecture neuronale : apprendre à concevoir des architectures pour de nouvelles tâches

Optimisation d'hyperparamètres : apprendre les hyperparamètres optimaux sur des familles de tâches

Apprentissage par renforcement : adaptation rapide à de nouveaux environnements et structures de récompense

Traitement du langage naturel : classification de texte few-shot et reconnaissance d'entités nommées

Références et lectures complémentaires

Approfondissez le sujet avec ces ressources sélectionnées

Articles fondateurs

Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks (Finn et al., 2017)

Learning to Learn by Gradient Descent by Gradient Descent (Andrychowicz et al., 2016)

Matching Networks for One Shot Learning (Vinyals et al., 2016)

Prototypical Networks for Few-shot Learning (Snell et al., 2017)

Variantes et extensions de MAML

On First-Order Meta-Learning Algorithms (Nichol et al., 2018)

How to train your MAML (Antoniou et al., 2018)

Gradient-Based Meta-Learning with Learned Layerwise Metric and Subspace (Li et al., 2018)

Méta-apprentissage fondé sur l'optimisation

Meta-SGD: Learning to Learn Quickly for Few-Shot Learning (Li et al., 2017)

Learning to learn without gradient descent by gradient descent (Chen et al., 2016)

Optimization as a Model for Few-Shot Learning (Ravi & Larochelle, 2016)

Meta-Learning with Differentiable Convex Optimization (Lee et al., 2019)

Méta-apprentissage fondé sur la mémoire

Meta-Learning with Memory-Augmented Neural Networks (Santoro et al., 2016)

Neural Turing Machines (Graves et al., 2014)

Learning to Remember Rare Events (Kaiser et al., 2017)

Théorie du méta-apprentissage

A Theoretical Analysis of the Number of Shots in Few-Shot Learning (Cao et al., 2019)

Reconciling meta-learning and continual learning with online mixtures of tasks (Jerfel et al., 2019)

Meta-Learning: A Survey (Hospedales et al., 2020)

Avancées récentes (2022-2024)

MetaICL: Learning to Learn In Context (Min et al., 2022)

Language Models are Few-Shot Learners (Brown et al., 2020)

Meta-Learning via Language Model In-context Tuning (Chen et al., 2022)

Recherche d'architecture neuronale et AutoML

DARTS: Differentiable Architecture Search (Liu et al., 2018)

Neural Architecture Search with Reinforcement Learning (Zoph & Le, 2016)

Auto-Meta: Automated Gradient Based Meta Learner Search (Kim et al., 2018)

MetaNAS: Meta Neural Architecture Search (Elsken et al., 2020)

Applications et domaines

Learning to Reinforcement Learn (Wang et al., 2016)

Learning to Few-Shot Learn Across Diverse Natural Language Classification Tasks

Few-Shot Object Detection with Attention-RPN and Multi-Relation Detector (Fan et al., 2019)

Ressources d'implémentation

learn2learn : une bibliothèque de méta-apprentissage pour PyTorch

Implémentation de MAML en TensorFlow

Torchmeta : une bibliothèque de méta-apprentissage pour PyTorch

Higher : une bibliothèque PyTorch pour l'optimisation d'ordre supérieur

Jeux de données et benchmarks

Jeu de données Omniglot pour l'apprentissage few-shot

miniImageNet : un jeu de données pour l'apprentissage few-shot

Meta-Dataset : un jeu de jeux de données pour l'apprentissage few-shot

VTAB: Visual Task Adaptation Benchmark

Outils et frameworks

Implémentation de MAML fondée sur JAX

Méta-apprentissage TensorFlow (TF-Agents)

Méta-apprentissage avec PyTorch Lightning

Avalanche : bibliothèque d'apprentissage continu

Communauté et groupes de recherche

Atelier Meta-Learning (NeurIPS)

Communauté de recherche sur l'apprentissage few-shot

Recherche OpenAI sur le méta-apprentissage

Loading technique guide…