vLLM ने नेटिव वेट सिंक्रोनाइज़ेशन API पेश किया है, जो RL ट्रेनर से इंफरेंस इंजन तक वेट ट्रांसफर को मानकीकृत करता है। यह प्लगेबल WeightTransferEngine एब्स्ट्रैक्शन का उपयोग करता है और वर्तमान में NCCL और IPC बैकएंड के साथ-साथ पैक्ड टेंसर ऑप्टिमाइज़ेशन का समर्थन करता है।
vLLM 官方说明原生权重同步 API 的四阶段设计与 DPEP 死锁修复,对搭建在线 RL 训练流程的团队有直接参考价值。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: vLLM ने नेटिव RL वेट सिंक्रोनाइज़ेशन API लॉन्च किया और एसिंक्रोनस RL डेडलॉक को ठीक किया। 28 मई 2026। https://new.nat6.net/hi/news/cmtynzyln033trog0zd40h0d0/