ट्यूटोरियल और टिप्स

Hugging Face ने LoRA और Storage Bucket के जरिए HF Jobs पर एसिंक्रोनस GRPO चलाया, NCCL के बिना 3.9 गुना गति बढ़ाई

मूल शीर्षक:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI सारांश

Hugging Face ने TRL v1.14 के AsyncGRPOTrainer में केवल LoRA एडाप्टर को प्रशिक्षित और सिंक्रनाइज़ करने का समर्थन पेश किया है। Storage Bucket माउंट और प्रॉक्सी रूटिंग के साथ, यह प्रशिक्षण जॉब और vLLM तर्क जॉब को अलग-अलग मशीनों पर बिना NCCL की आवश्यकता के चलाने की अनुमति देता है।

मुख्य जानकारी

  • Hugging Face ने TRL v1.
  • 14 के AsyncGRPOTrainer में केवल LoRA एडाप्टर को प्रशिक्षित और सिंक्रनाइज़ करने का समर्थन पेश किया…
  • यह प्रशिक्षण जॉब और vLLM तर्क जॉब को अलग-अलग मशीनों पर बिना NCCL की आवश्यकता के चलाने की अनुमति…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Hugging Face 社区博客(混合发现)
श्रेणी
ट्यूटोरियल और टिप्स
AI स्कोर
61
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Hugging Face ने LoRA और Storage Bucket के जरिए HF Jobs पर एसिंक्रोनस GRPO चलाया, NCCL के बिना 3.9 गुना गति बढ़ाई। 10 सितंबर 2026। https://new.nat6.net/hi/news/cmu10mxhc08m6ro2nafd8smam/

सभी देखें →