Dans l'actualité
Decisions for a penny: introducing joey-1, our fastest decision model
Baseten · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- Baseten released joey-1, a 2-billion-parameter decision model with 20ms latency, five times faster than comparable models.
- Pourquoi ça compte
- Engineers building high-volume classification systems where latency and cost matter more than maximum accuracy.
- Vigilance
- Decision models return single tokens, not generated text. They work only for classification tasks, not open-ended generation or reasoning.
Les patterns derrière cette actualité
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.