Новости

Toward a Gricean Retreat: Probing LLMs for Knowledge Boundaries and Referent Specificity

arXiv cs.AI · Опубликовано 13 августа 2026 г. · 3 мин чтения

За 30 секунд

Что произошло: Researchers found that LLMs detect when entities fall outside their knowledge but still generate specific false details instead of retreating to safer general claims.
Почему это важно: Matters for engineers building systems where hallucination risks are high, such as customer-facing applications, medical tools, or knowledge retrieval systems.
На что обратить внимание: The study shows the capability exists internally but generation policy does not enforce it. Fixing this requires new training objectives, not just architectural changes.

Послушать это резюме

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.

Новости

arXiv cs.AI · Опубликовано 13 августа 2026 г. · 3 мин чтения

Что произошло: Researchers found that LLMs detect when entities fall outside their knowledge but still generate specific false details instead of retreating to safer general claims.
Почему это важно: Matters for engineers building systems where hallucination risks are high, such as customer-facing applications, medical tools, or knowledge retrieval systems.
На что обратить внимание: The study shows the capability exists internally but generation policy does not enforce it. Fixing this requires new training objectives, not just architectural changes.

Послушать это резюме

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.