Dans l'actualité
Forgetting Only What Matters: Layer-Selective Unlearning toward Robust LLMs
arXiv cs.AI · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- FOM-UL est une méthode de machine unlearning sélective par couche qui cible des transformers spécifiques pour supprimer des données sensibles des LLMs tout en préservant leurs performances.
- Pourquoi ça compte
- Utile pour les ingénieurs déployant des LLMs devant respecter les régulations de confidentialité ou retirer du contenu protégé sans réentraînement complet, notamment avant quantization.
- Vigilance
- La méthode n'offre aucune garantie formelle d'effacement total et n'a pas été testée contre toutes les attaques adversariales possibles pour récupérer l'information oubliée.
- llm
- language model
- post-train
- quantiz
- edge
Les patterns derrière cette actualité
- Memory Decay & Forgetting Policies
- Agentic Context Engineering (Evolving Playbook)
- Differential Privacy Patterns
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.