Le prompt d’abord
Utilisez le prompting ou des exemples few-shot lorsque le comportement s’exprime clairement et que le contexte ajouté reste compatible avec vos contraintes de latence et de coût.
Guide du fine-tuning
Aide-mémoire du fine-tuning
Une check-list indépendante des frameworks pour mener des expériences contrôlées. Les hyperparamètres et les besoins en mémoire dépendent du modèle, des données, de l’objectif et du matériel exacts ; ne reprenez des valeurs que d’une recette maintenue pour cette combinaison, puis validez-les sur un pilote.
Rechercher ou appeler un outil
Utilisez la recherche documentaire pour une connaissance évolutive, privée ou traçable, et les outils pour les calculs, les actions et l’état de référence du système.
Faire du fine-tuning à bon escient
N’entraînez un comportement répété que si vous disposez d’exemples représentatifs, d’un jeu de test scellé et d’une référence mesurée à dépasser.
Contrat de données
Avant l’entraînement
- • Définissez sources autorisées, licences, consentement, conservation et suppression
- • Reproduisez la distribution réelle des entrées, la langue, le format et les cas limites
- • Retirez secrets, données personnelles superflues, doublons et exemples corrompus
- • Examinez la politique d’annotation et les désaccords au lieu de les masquer
- • Dédupliquez entre les ensembles d’entraînement, de validation et de test
Gardez le jeu de test scellé
- • Cas de réussite, d’échec, cas limites, de sûreté et hors distribution
- • Étiquettes de segment pour les utilisateurs, langues et types de contenu importants
- • Une grille de notation écrite et un processus d’arbitrage
- • Aucun exemple généré à partir des sorties de test ni ajusté sur elles
- • Des révisions versionnées pour que les comparaisons restent valables
Ce qu’il faut régler et surveiller
| Paramètre | Pourquoi c’est important | Signal à examiner |
|---|---|---|
| Taux d’apprentissage | Définit l’amplitude des mises à jour | Instabilité, apprentissage lent, qualité en validation |
| Durée d’entraînement | Contrôle l’exposition aux exemples | Plateau sur le jeu réservé et hausse des régressions |
| Batch effectif | Modifie le bruit du gradient et le débit | Pas par seconde, mémoire, convergence |
| Longueur de séquence | Pèse fortement sur la mémoire et la distribution d’entraînement | Troncature, remplissage inutile, qualité sur entrées longues |
| Rang et cibles LoRA | Fixent la capacité et le placement des adaptateurs | Paramètres entraînables, qualité de la tâche, surapprentissage |
| Précision / quantification | Arbitre entre mémoire, compatibilité et comportement numérique | NaN, vitesse, mémoire, qualité du modèle exporté |
Fiche d’expérience
- Checkpoint de base
- Dépôt, révision exacte, tokenizer, template de chat et revue de licence
- Données
- Manifeste immuable, provenance, filtrage, déduplication, découpages et droits
- Objectif
- SFT, optimisation de préférences ou objectif par renforcement, et masquage de la perte
- Méthode de mise à jour
- Fine-tuning complet, LoRA ou QLoRA, avec modules cibles et réglages d’adaptateur
- Optimisation
- Taux d’apprentissage, planification, batch effectif, pas, précision et graine
- Environnement
- Révision du code, verrou de dépendances, conteneur, pilote, accélérateur et topologie
- Évaluation
- Révision du jeu de test, grille, métriques par segment, suite de sûreté et suite de régression de base
- Artefacts
- Empreintes de checkpoint, méthode d’adaptateur ou de fusion, template de service et cible de retour arrière
Critère de publication
- Le candidat entraîné dépasse chaque référence exigée sur le jeu de test scellé.
- Les résultats par segment atteignent les seuils écrits et indiquent les effectifs.
- Les tests de capacités de base, de sûreté, de confidentialité et de détournement restent dans le budget de régression.
- Le service utilise le même tokenizer et le même template que ceux testés hors ligne.
- Latence, débit, mémoire et coût total sont mesurés sur une infrastructure proche de la production.
- Canary, responsable de la supervision, seuil d’alerte et artefact de retour arrière sont prêts.
Arrêtez l’entraînement lorsque
La perte n’est plus finie ou les gradients restent instables.
La qualité en validation se dégrade alors que la perte d’entraînement s’améliore.
La revue des données ou des licences révèle un point non résolu.
Un checkpoint ne peut être chargé, évalué ou repris de façon reproductible.
Les contrôles de sûreté ou de confidentialité franchissent le seuil convenu.
Le pilote ne peut manifestement pas atteindre la cible de coût ou de latence en production.