Miles réalise un apprentissage par renforcement MXFP8 de bout en bout et NVFP4 par token sur l'architecture Blackwell
Titre original:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team
Résumé IA
L'équipe Miles a implémenté deux schémas natifs d'apprentissage par renforcement en basse précision sur l'architecture Blackwell : MXFP8 de bout en bout et NVFP4 par token pour les poids des experts MoE. Lors d'expériences d'ablation sur Qwen3-30B-A3B avec 8x B200, les courbes de récompense brute en BF16 et dans les cinq configurations basse précision se superposent fortement, et MXFP8 comme NVFP4 réduisent le temps de raisonnement.
Points clés
- L'équipe Miles a implémenté deux schémas natifs d'apprentissage par renforcement en basse…
- Lors d'expériences d'ablation sur Qwen3-30B-A3B avec 8x B200,les courbes de récompense brute en…
- et MXFP8 comme NVFP4 réduisent le temps de raisonnement.
En bref
- Publié
- Mis à jour
- Source
- LMSYS Blog
- Catégorie
- Articles et recherche
- Score IA
- 69
虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Miles réalise un apprentissage par renforcement MXFP8 de bout en bout et NVFP4 par token sur l'architecture Blackwell. 29. juillet 2026. https://new.nat6.net/fr/news/cms6drkj8001crohzuxf7kfy7/