Miles ने Blackwell आर्किटेक्चर पर एंड-टू-एंड MXFP8 और टोकन-वार NVFP4 सुदृढ़ीकरण शिक्षण समाधान लागू किया
मूल शीर्षक:Blog Towards Blackwell-Native 8-bit and 4-bit RL: End-to-End MXFP8 and NVFP4 RL in Miles TL;DR: We implemented two Blackwell-native RL recipes in Miles: end-to-end MXFP8 and per-token NVFP4 for MoE experts. Both are supported by fine-grained precision control across checkpoint conversion,... Ziang Li, humans& and Miles Team
AI सारांश
Miles टीम ने Blackwell आर्किटेक्चर पर दो नेटिव लो-प्रिसिजन सुदृढ़ीकरण शिक्षण समाधान लागू किए: एंड-टू-एंड MXFP8 और MoE एक्सपर्ट वेट के लिए टोकन-वार NVFP4। 8x B200 पर Qwen3-30B-A3B के एब्लेशन प्रयोगों में, BF16 और सभी पांच लो-प्रिसिजन कॉन्फ़िगरेशन के मूल रिवॉर्ड कर्व अत्यधिक समान रहे, साथ ही MXFP8 और NVFP4 ने इंफ़रेंस समय को कम किया।
मुख्य जानकारी
- Miles टीम ने Blackwell आर्किटेक्चर पर दो नेटिव लो-प्रिसिजन सुदृढ़ीकरण शिक्षण समाधान लागू किए:…
- BF16 और सभी पांच लो-प्रिसिजन कॉन्फ़िगरेशन के मूल रिवॉर्ड कर्व अत्यधिक समान रहे
- साथ ही MXFP8 और NVFP4 ने इंफ़रेंस समय को कम किया।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- LMSYS Blog
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 69
虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Miles ने Blackwell आर्किटेक्चर पर एंड-टू-एंड MXFP8 और टोकन-वार NVFP4 सुदृढ़ीकरण शिक्षण समाधान लागू किया। 29 जुलाई 2026। https://new.nat6.net/hi/news/cms6drkj8001crohzuxf7kfy7/