सेकंडों में ट्रिलियन-पैरामीटर अपडेट — बड़े पैमाने के वितरित सुदृढ़ीकरण अधिगम में पीयर-टू-पीयर वेट ट्रांसफर तकनीक
मूल शीर्षक:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026
AI सारांश
LMSYS टीम ने SGLang में सुदृढ़ीकरण अधिगम वर्कलोड के लिए RDMA-आधारित पीयर-टू-पीयर वेट अपडेट तंत्र प्रस्तावित किया है, जो पारंपरिक NCCL ब्रॉडकास्ट विधि का पूरक है। यह डिज़ाइन स्रोत-पक्ष CPU इंजन प्रतिलिपि और Mooncake TransferEngine का उपयोग करके P2P RDMA ट्रांसफर करता है, जिससे 1T पैरामीटर वाले Kimi-K2 मॉडल के वेट ट्रांसफर समय को 53 सेकंड से घटाकर 7.2 सेकंड कर दिया गया है, यानी 7 गुना गति। इसकी कीमत यह है कि प्रत्येक प्रशिक्षण स्तर को CPU मेमोरी में एक अतिरिक्त 32G अनुमान इंजन प्रतिलिपि रखनी होती है। यह अनुकूलन नेटवर्क अतिरेक को न्यूनतम करता है, अनुमान सर्वर को rollout प्रक्रिया तेज़ी से फिर से शुरू करने देता है, और सभी प्रमुख ओपन-सोर्स मॉडलों के साथ संगत है।
मुख्य जानकारी
- LMSYS टीम ने SGLang में सुदृढ़ीकरण अधिगम वर्कलोड के लिए RDMA-आधारित पीयर-टू-पीयर वेट अपडेट तंत्र…
- जिससे 1T पैरामीटर वाले Kimi-K2 मॉडल के वेट ट्रांसफर समय को 53 सेकंड से घटाकर 7.
- 2 सेकंड कर दिया गया है,यानी 7 गुना गति। इसकी कीमत यह है कि प्रत्येक प्रशिक्षण स्तर को CPU मेमोरी…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- LMSYS Blog
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 74
LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: सेकंडों में ट्रिलियन-पैरामीटर अपडेट — बड़े पैमाने के वितरित सुदृढ़ीकरण अधिगम में पीयर-टू-पीयर वेट ट्रांसफर तकनीक। 29 अप्रैल 2026। https://new.nat6.net/hi/news/cmokelt5u014nsl4fegroemhe/