Miles บนสถาปัตยกรรม Blackwell ทำ Reinforcement Learning แบบ MXFP8 ครบวงจรและ NVFP4 ต่อโทเคน
หัวข้อต้นฉบับ:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team
สรุปโดย AI
ทีม Miles บนสถาปัตยกรรม Blackwell ได้ทำแผน reinforcement learning ความแม่นยำต่ำแบบเนทีฟสองแบบ: MXFP8 ครบวงจร และ NVFP4 ต่อโทเคนสำหรับน้ำหนักผู้เชี่ยวชาญ MoE ในการทดลอง ablation กับ Qwen3-30B-A3B บน 8x B200 เส้นกราฟรางวัลดิบของ BF16 และการตั้งค่าความแม่นยำต่ำทั้งห้าแบบทับซ้อนกันสูง และ MXFP8 กับ NVFP4 ลดเวลาการอนุมาน
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- LMSYS Blog
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 69
虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Miles บนสถาปัตยกรรม Blackwell ทำ Reinforcement Learning แบบ MXFP8 ครบวงจรและ NVFP4 ต่อโทเคน 29 กรกฎาคม 2026 https://new.nat6.net/th/news/cms6drkj8001crohzuxf7kfy7/