Новости
Large Language Models for Machine Translation Quality Annotation: Humans and Models Are Both Challenged
Apple Machine Learning Research · Опубликовано · 3 мин чтения
За 30 секунд
- Что произошло
- Apple researchers evaluated large language models for machine translation quality annotation across 70 language pairs, finding both LLMs and humans struggle with reliability.
- Почему это важно
- Machine translation teams considering LLMs to replace human evaluation should understand current limitations before deployment in production systems.
- На что обратить внимание
- LLMs exceed human agreement on some tasks but remain unreliable for most settings; they struggle with minor errors and language variants.
- llm
- language model
- eval
Паттерны, стоящие за этой новостью
Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.
The Agent Architect
Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.
Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.