Dans l'actualité
Provable Limits and Certified Deferral for Verbalized Uncertainty in Small Language Models
arXiv cs.AI · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- Research proves small language models cannot reliably defer to humans using verbalized confidence alone, even with calibration techniques.
- Pourquoi ça compte
- Engineers deploying small models offline or in cost-sensitive settings need to know when deferral to humans is mathematically safe.
- Vigilance
- Only three of twenty-two model-task pairs achieved certified safe autonomy at twenty percent risk; results assume independent and identically distributed deployment.
Écouter ce résumé
- language model
- rag
- eval
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.