Dans l'actualité
How Generative Recommenders Are Redefining RecSys at Scale
NVIDIA Developer · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- NVIDIA a publié des implémentations de production pour les recommandeurs génératifs basés sur transformers comme HSTU et Semantic IDs, avec composants GPU-optimisés.
- Pourquoi ça compte
- Ingénieurs construisant des systèmes de recommandation à grande échelle face aux problèmes de cold-start et de sparsité en production.
- Vigilance
- Les recommandeurs génératifs nécessitent des patterns de serving différents des LLM: long contexte mais décodage court et beam widths larges, demandant une infrastructure spécialisée.
Écouter ce résumé
- llm
- embedding
Les patterns derrière cette actualité
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.