Miles mewujudkan solusi pembelajaran penguatan MXFP8 end-to-end dan NVFP4 per token pada arsitektur Blackwell
Judul asli:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team
Ringkasan AI
Tim Miles mewujudkan dua solusi pembelajaran penguatan presisi rendah native pada arsitektur Blackwell: MXFP8 end-to-end dan NVFP4 per token untuk bobot pakar MoE. Dalam eksperimen ablasi pada Qwen3-30B-A3B dengan 8x B200, kurva reward mentah BF16 dan kelima konfigurasi presisi rendah sangat berhimpitan, dan MXFP8 serta NVFP4 mengurangi waktu inferensi.
Poin utama
- Tim Miles mewujudkan dua solusi pembelajaran penguatan presisi rendah native pada arsitektur…
- Dalam eksperimen ablasi pada Qwen3-30B-A3B dengan 8x B200,kurva reward mentah BF16 dan kelima…
- dan MXFP8 serta NVFP4 mengurangi waktu inferensi.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- LMSYS Blog
- Kategori
- Makalah & Riset
- Skor AI
- 69
虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Miles mewujudkan solusi pembelajaran penguatan MXFP8 end-to-end dan NVFP4 per token pada arsitektur Blackwell. 29 Juli 2026. https://new.nat6.net/id/news/cms6drkj8001crohzuxf7kfy7/