Новости
XStack: A Benchmark for ML Repo Migration
arXiv cs.AI · Опубликовано · 3 мин чтения
За 30 секунд
- Что произошло
- XStack is a benchmark for evaluating AI agents on migrating machine learning repositories from PyTorch to JAX across different hardware platforms.
- Почему это важно
- Matters for ML engineers managing codebases across PyTorch and JAX ecosystems, or building tools to automate framework migration.
- На что обратить внимание
- Current agents show low reliability: Claude Opus 5 passes 75%, GPT-5.6-sol 45%, others below 40%. Migration remains a challenging, unsolved problem.
- agent
- eval
- benchmark
- long-horizon
Паттерны, стоящие за этой новостью
- Structure-Aware Codebase Retrieval (Repo Map)
- Constitutional AI Evaluation Framework
- AISI Evaluation Framework
Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.
The Agent Architect
Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.
Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.