Новости

Cited but Unused: Parametric Provenance in Retrieval-Augmented Generation

arXiv cs.AI · Опубликовано 12 ноября 2026 г. · 3 мин чтения

За 30 секунд

Что произошло: Researchers found that retrieval-augmented generation systems cite sources for claims they actually derive from internal model memory, not retrieved context.
Почему это важно: Engineers building or evaluating RAG systems need to understand that citations may be misleading and standard verification methods fail to catch this problem.
На что обратить внимание: The detection method developed measures what models know rather than what they actually used, leaving the core problem of separating knowledge from usage unsolved.

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.

Новости

arXiv cs.AI · Опубликовано 12 ноября 2026 г. · 3 мин чтения

Что произошло: Researchers found that retrieval-augmented generation systems cite sources for claims they actually derive from internal model memory, not retrieved context.
Почему это важно: Engineers building or evaluating RAG systems need to understand that citations may be misleading and standard verification methods fail to catch this problem.
На что обратить внимание: The detection method developed measures what models know rather than what they actually used, leaving the core problem of separating knowledge from usage unsolved.

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.