Miles реализует сквозной MXFP8 и потипичный NVFP4 для обучения с подкреплением на архитектуре Blackwell
Оригинальный заголовок:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team
ИИ-резюме
Команда Miles реализовала два нативных низкоточных подхода к обучению с подкреплением на архитектуре Blackwell: сквозной MXFP8 и потипичный NVFP4 для весов экспертов MoE. В абляционных экспериментах с Qwen3-30B-A3B на 8x B200 исходные кривые вознаграждения для BF16 и всех пяти низкоточных конфигураций практически совпали, а MXFP8 и NVFP4 сократили время рассуждения.
Ключевые моменты
- Команда Miles реализовала два нативных низкоточных подхода к обучению с подкреплением на…
- В абляционных экспериментах с Qwen3-30B-A3B на 8x B200 исходные кривые вознаграждения для BF16 и…
- а MXFP8 и NVFP4 сократили время рассуждения.
Кратко
- Опубликовано
- Обновлено
- Источник
- LMSYS Blog
- Категория
- Статьи и исследования
- Оценка ИИ
- 69
虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Miles реализует сквозной MXFP8 и потипичный NVFP4 для обучения с подкреплением на архитектуре Blackwell. 29 июля 2026. https://new.nat6.net/ru/news/cms6drkj8001crohzuxf7kfy7/