Новости

Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles

LMSYS · Опубликовано 29 июля 2026 г. · 3 мин чтения

За 30 секунд

Что произошло: LMSYS released Blackwell-native 8-bit and 4-bit reinforcement learning recipes in Miles, supporting end-to-end MXFP8 and per-token NVFP4 quantization.
Почему это важно: Machine learning engineers training large language models on Blackwell GPUs who need to reduce memory and compute costs while maintaining reward signal fidelity in RL workflows.
На что обратить внимание: Requires matching precision contracts across rollout, training, checkpoint conversion, and weight updates; per-token NVFP4 scaling demands consistent expert-tensor parallelism between inference and training.

Послушать это резюме

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.

Новости

LMSYS · Опубликовано 29 июля 2026 г. · 3 мин чтения

Что произошло: LMSYS released Blackwell-native 8-bit and 4-bit reinforcement learning recipes in Miles, supporting end-to-end MXFP8 and per-token NVFP4 quantization.
Почему это важно: Machine learning engineers training large language models on Blackwell GPUs who need to reduce memory and compute costs while maintaining reward signal fidelity in RL workflows.
На что обратить внимание: Requires matching precision contracts across rollout, training, checkpoint conversion, and weight updates; per-token NVFP4 scaling demands consistent expert-tensor parallelism between inference and training.

Послушать это резюме

Каждый разбирает, как работает техника, когда она оправдывает затраты и где ломается.

Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.