Статьи и исследования

Miles реализует сквозной MXFP8 и потипичный NVFP4 для обучения с подкреплением на архитектуре Blackwell

Оригинальный заголовок:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team

ИИ-резюме

Команда Miles реализовала два нативных низкоточных подхода к обучению с подкреплением на архитектуре Blackwell: сквозной MXFP8 и потипичный NVFP4 для весов экспертов MoE. В абляционных экспериментах с Qwen3-30B-A3B на 8x B200 исходные кривые вознаграждения для BF16 и всех пяти низкоточных конфигураций практически совпали, а MXFP8 и NVFP4 сократили время рассуждения.

Ключевые моменты

  • Команда Miles реализовала два нативных низкоточных подхода к обучению с подкреплением на…
  • В абляционных экспериментах с Qwen3-30B-A3B на 8x B200 исходные кривые вознаграждения для BF16 и…
  • а MXFP8 и NVFP4 сократили время рассуждения.

Кратко

Опубликовано
Обновлено
Источник
LMSYS Blog
Категория
Статьи и исследования
Оценка ИИ
69
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Miles реализует сквозной MXFP8 и потипичный NVFP4 для обучения с подкреплением на архитектуре Blackwell. 29 июля 2026. https://new.nat6.net/ru/news/cms6drkj8001crohzuxf7kfy7/

Смотреть все →