Dans l'actualité
Cited but Unused: Parametric Provenance in Retrieval-Augmented Generation
arXiv cs.AI · Publié le · 3 min de lecture
En 30 secondes
- Ce qui s'est passé
- RAG systems cite sources for claims derived from internal model memory, not retrieved context, misleading users about information provenance.
- Pourquoi ça compte
- Engineers building or evaluating RAG systems must understand that citations may be misleading and standard verification methods fail to catch this.
- Vigilance
- The detection method measures model knowledge rather than actual usage, leaving unsolved the core problem of separating knowledge from what models truly use.
- retrieval
- eval
Les patterns derrière cette actualité
Chacun explique le fonctionnement de la technique, quand elle vaut son coût et où elle casse.
The Agent Architect
Un pattern, un compromis, une panne de production racontée. Un brief hebdomadaire court pour ceux qui construisent des systèmes agentiques.
Un email par semaine, désinscription en un clic. Votre adresse ne sert qu'à envoyer le brief.