Ce que l’on quantifie
Les poids d’abord ; les activations et le cache KV peuvent suivre. Chaque cible supplémentaire économise plus de mémoire et met plus de qualité en jeu : ce sont des décisions distinctes.
Guide de l’inférence IA
Préparation du modèle
Le travail effectué sur le modèle avant qu’il ne serve du trafic. Trois leviers changent ce que coûte un déploiement et la façon dont il se comporte : réduire les nombres (quantification), réduire le modèle (distillation) ou changer le comportement (fine-tuning).
Quantification : moins de précision, tout devient plus petit
La quantification stocke les nombres sur moins de bits. Comme un paramètre occupe 4 octets en FP32, 2 en FP16/BF16, 1 en FP8/INT8 et un demi-octet en INT4, un modèle 7B passe d’environ 28 GB à 14, 7 puis 3,5 GB à mesure que la précision baisse. Le gain est triple : moins de mémoire à acheter, moins de données à déplacer par jeton (le decode est limité par la bande passante) et une arithmétique plus rapide sur le matériel qui prend en charge nativement la basse précision.
Méthodes nommées
Les approches post-entraînement dominent le service : GPTQ (minimisation de l’erreur couche par couche), AWQ (protège la petite fraction de poids qui compte le plus), SmoothQuant (déplace la difficulté des activations vers les poids pour du W8A8). L’entraînement conscient de la quantification existe, mais reste rare pour les LLM.
En pratique
La plupart des équipes téléchargent des checkpoints déjà quantifiés (publications sur les hubs, niveaux GGUF Q4/Q5/Q8 pour les runtimes locaux) plutôt que de quantifier elles-mêmes. Vérifiez que votre génération de GPU prend nativement en charge la précision visée, sinon le gain de vitesse s’évapore.
Le prix à payer est la justesse : en général faible en 8 bits, plus vite perceptible sur les petits modèles et les tâches difficiles. N’acceptez jamais une version quantifiée sur la seule perplexité ; exécutez votre propre jeu d’évaluation face à la référence en pleine précision.
Distillation : entraîner un petit modèle à partir d’un grand
La distillation entraîne un modèle élève compact à imiter un modèle enseignant plus grand, en transférant la capacité vers un artefact moins coûteux. Contrairement à la quantification, qui compresse le même modèle, la distillation produit un modèle réellement différent et plus petit, avec moins de latence, moins de mémoire et un coût par requête inférieur.
- Signal : l’élève peut apprendre de toute la distribution de sortie de l’enseignant (soft labels) et pas seulement des réponses finales, et l’entraînement mêle en général une perte d’imitation à une entropie croisée classique.
- Variantes : reproduire les réponses finales, reproduire les représentations intermédiaires, ou s’entraîner sur les traces de raisonnement de l’enseignant pour que l’élève hérite d’un comportement pas à pas.
- Là où elle brille : une tâche bien délimitée où un grand modèle est surdimensionné pour chaque requête ; les petits modèles distillés sont aussi la façon dont la capacité de raisonnement atteint des tailles déployables.
- Réserves : c’est un projet d’entraînement au coût de calcul réel, l’élève n’égalera pas l’enseignant partout, et la licence de l’enseignant peut interdire d’entraîner sur ses sorties.
Fine-tuning : changer ce que fait le modèle
Le fine-tuning poursuit l’entraînement d’un modèle existant sur vos propres exemples : langue du domaine, formats de sortie, ton ou comportement de tâche que le prompting ne produit pas de façon fiable. Envisagez-le après avoir essayé le prompting, les exemples few-shot et la recherche documentaire, et construisez le jeu d’évaluation avant l’entraînement pour pouvoir démontrer que l’ajustement a servi.
Méthodes
- Le fine-tuning complet met à jour tous les poids : effet le plus fort, VRAM et coût les plus élevés
- LoRA entraîne de petites matrices d’adaptation sur des poids figés ; QLoRA fait de même sur une base quantifiée, jusque sur des GPU grand public
- Les adaptateurs peuvent être fusionnés dans les poids ou chargés par requête au moment du service, si bien qu’un même modèle de base porte plusieurs comportements
- La qualité prime sur le volume : quelques milliers d’exemples propres et bien annotés surpassent une masse bruitée
Outillage
- Axolotl : recettes d’entraînement pilotées par configuration
- Unsloth : noyaux optimisés en mémoire et en vitesse pour l’ajustement sur un seul GPU
- Torchtune : bibliothèque de fine-tuning native PyTorch
- LLaMA Factory : large prise en charge de modèles avec une interface
- Le fine-tuning hébergé échange de la commodité contre une dépendance au cycle de vie du fournisseur
Ce site dispose d’un centre dédié qui couvre en profondeur les techniques, les frameworks et les parcours d’entraînement local ou cloud : voir fine-tuning.
Quel levier, à quel moment
| Symptôme | Levier à utiliser |
|---|---|
| Le modèle ne tient pas sur le GPU, ou le coût de service est trop élevé à qualité acceptable | La quantification d’abord : peu coûteuse à essayer et réversible |
| Une tâche étroite où le grand modèle est surdimensionné pour chaque requête | Distillation vers un petit élève, ou un petit modèle existant plus du fine-tuning |
| Comportement, format ou ton inadaptés au domaine malgré de bons prompts et de la recherche documentaire | Fine-tuning (LoRA d’abord, ajustement complet si les adaptateurs ne suffisent pas) |
| Tout ce qui précède, à grande échelle | Ces leviers se combinent : un modèle distillé ou affiné est couramment quantifié pour le service |