The Agent Architect #36: Uncertainty Quantification

Паттерн недели

Uncertainty Quantification

Что это:

Отделяет модельную неопределённость от неустранимого шума и вместе с точечными оценками сообщает диапазоны прогноза и уровни доверия.

Когда применять:

Ответственные решения, где пользователю нужно понимать надёжность прогноза, или когда нижестоящие системы должны менять поведение в зависимости от уверенности.

Осторожно:

Плохо откалиброванные интервалы вводят пользователей в ложную уверенность; проверка на отложенных данных обязательна, но её часто пропускают.

На этой неделе в агентном ИИ

• Experiment with Qwen3.8-Flash-Next on NVIDIA GB300 NVL72 for Agentic CodingNVIDIA Developer

  Alibaba released Qwen3.8-Flash-Next model weights, a multimodal mixture-of-experts model with 125B main parameters.

• Experiment with Qwen3.8-Flash-Next 176B Model on NVIDIA GB300 NVL72 for Agentic CodingNVIDIA Developer

  Alibaba released Qwen3.8-Flash-Next model weights, a 176B parameter multimodal mixture-of-experts model for developer evaluation.

• When Does Bigger Help? A Controlled Study of LLM Scale for Ontology LearningarXiv cs.AI

  Controlled evaluation of 13 LLMs across Qwen and GPT variants shows varying effects of model scale on ontology learning performance.

• A Model with No Head and Many ThoughtsarXiv cs.AI

  Method replaces vocabulary projection with lightweight projector to enable reasoning in embedding space.

• AI Agent Latency 101: How do I speed up my AI agent?LangChain

  Strategies to reduce AI agent latency include optimizing LLM calls, enabling parallelism, and improving user experience.