Makalah & Riset

Miles mewujudkan solusi pembelajaran penguatan MXFP8 end-to-end dan NVFP4 per token pada arsitektur Blackwell

Judul asli:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team

Ringkasan AI

Tim Miles mewujudkan dua solusi pembelajaran penguatan presisi rendah native pada arsitektur Blackwell: MXFP8 end-to-end dan NVFP4 per token untuk bobot pakar MoE. Dalam eksperimen ablasi pada Qwen3-30B-A3B dengan 8x B200, kurva reward mentah BF16 dan kelima konfigurasi presisi rendah sangat berhimpitan, dan MXFP8 serta NVFP4 mengurangi waktu inferensi.

Poin utama

  • Tim Miles mewujudkan dua solusi pembelajaran penguatan presisi rendah native pada arsitektur…
  • Dalam eksperimen ablasi pada Qwen3-30B-A3B dengan 8x B200,kurva reward mentah BF16 dan kelima…
  • dan MXFP8 serta NVFP4 mengurangi waktu inferensi.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
LMSYS Blog
Kategori
Makalah & Riset
Skor AI
69
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Miles mewujudkan solusi pembelajaran penguatan MXFP8 end-to-end dan NVFP4 per token pada arsitektur Blackwell. 29 Juli 2026. https://new.nat6.net/id/news/cms6drkj8001crohzuxf7kfy7/

Lihat semua →