บทความและงานวิจัย

Miles บนสถาปัตยกรรม Blackwell ทำ Reinforcement Learning แบบ MXFP8 ครบวงจรและ NVFP4 ต่อโทเคน

หัวข้อต้นฉบับ:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team

สรุปโดย AI

ทีม Miles บนสถาปัตยกรรม Blackwell ได้ทำแผน reinforcement learning ความแม่นยำต่ำแบบเนทีฟสองแบบ: MXFP8 ครบวงจร และ NVFP4 ต่อโทเคนสำหรับน้ำหนักผู้เชี่ยวชาญ MoE ในการทดลอง ablation กับ Qwen3-30B-A3B บน 8x B200 เส้นกราฟรางวัลดิบของ BF16 และการตั้งค่าความแม่นยำต่ำทั้งห้าแบบทับซ้อนกันสูง และ MXFP8 กับ NVFP4 ลดเวลาการอนุมาน

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
LMSYS Blog
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
69
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Miles บนสถาปัตยกรรม Blackwell ทำ Reinforcement Learning แบบ MXFP8 ครบวงจรและ NVFP4 ต่อโทเคน 29 กรกฎาคม 2026 https://new.nat6.net/th/news/cms6drkj8001crohzuxf7kfy7/

ดูทั้งหมด →