Dans l'actualité
How Goodfire used Ai2’s open post-training stack to trace unwanted model behavior
Ai2 · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- Goodfire utilisa la stack post-training ouverte d'Ai2 pour déboguer les comportements involontaires des modèles en les traçant jusqu'aux exemples d'entraînement spécifiques dans les datasets de préférences.
- Pourquoi ça compte
- Pertinent pour les ingénieurs ML construisant ou adaptant des modèles de langage qui doivent comprendre pourquoi le preference training produit des effets secondaires inattendus.
- Vigilance
- L'approche nécessite un accès complet aux données d'entraînement, checkpoints et recettes. La plupart des modèles commerciaux manquent cette transparence, limitant l'applicabilité au-delà des systèmes open source.
- llm
- post-train
Les patterns derrière cette actualité
- Agentic Context Engineering (Evolving Playbook)
- Agent Observability & Tracing
- Eval-Driven Development (Agent CI)
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.