Choisissez une pile maintenue qui prend en charge votre checkpoint, votre objectif, votre accélérateur, votre format d’artefact et votre chemin de déploiement exacts. Les listes de fonctionnalités changent plus vite que les concepts.
Transformers + PEFT + TRL
Des API Python composables lorsque vous avez besoin de contrôler le chargement, les adaptateurs, les entraîneurs et les objectifs d’alignement.
À vérifier : Figez des versions mutuellement compatibles et testez l’architecture de modèle, le quantificateur et le lanceur distribué exacts.
Des recettes pilotées par configuration pour le SFT, l’optimisation de préférences et l’apprentissage par renforcement, sur les modèles et matériels pris en charge.
À vérifier : Partez d’un exemple maintenu pour votre modèle ; validez les noyaux optionnels et les réglages distribués sur votre cluster.
Des interfaces en ligne de commande et web pour la préparation des données, l’entraînement, l’évaluation et l’export, sur une large matrice de modèles.
À vérifier : Vérifiez le tableau de prise en charge du dépôt et la licence pour le modèle et la méthode précis que vous prévoyez d’utiliser.
PyTorch FSDP et DeepSpeed peuvent répartir l’état du modèle et le travail de l’optimiseur. Ce sont des couches de passage à l’échelle, pas des substituts aux données, à l’évaluation ou à la gestion des mises en production.
MLX et MLX LM permettent l’expérimentation locale sur Apple silicon. Vérifiez la prise en charge actuelle des modèles et du tuning avant de supposer une parité avec une recette CUDA.
Enregistrez le code, l’environnement, la révision du jeu de données, les paramètres, les checkpoints, les métriques et les artefacts d’évaluation. Un tableau de bord ne remplace pas des entrées reproductibles.
Check-list avant lancement
Un exemple maintenu couvre la révision de modèle et le template de chat exacts.
Le framework prend en charge l’accélérateur, la précision et la topologie distribuée visés.
Entraînement et service s’accordent sur les formats d’adaptateur, de tokenizer, de quantification et de checkpoint.
Le masquage du jeu de données est testé pour que la perte ne porte que sur les jetons voulus.
Un test de surapprentissage sur un seul batch et un test de reprise de checkpoint réussissent avant le run payant.
Les versions de dépendances, l’empreinte du conteneur et la révision des sources sont consignées.
Les exemples Torchtune restent des références historiques utiles, mais son dépôt officiel indique que la maintenance active s’est arrêtée en 2025. Ne fondez pas une nouvelle dépendance de production dessus sans accepter ce risque de maintenance. Lire l’avis de maintenance.