Hugging Face ใช้ LoRA และ Storage Bucket รัน Async GRPO บน HF Jobs ไม่ต้องใช้ NCCL และเร็วขึ้น 3.9 เท่า
หัวข้อต้นฉบับ:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
สรุปโดย AI
Hugging Face รองรับการฝึกเฉพาะ LoRA adapter และการซิงก์ LoRA adapter ใน AsyncGRPOTrainer ของ TRL v1.14 พร้อมการเมานต์ Storage Bucket และการกำหนดเส้นทางผ่านพร็อกซี ทำให้ Job สำหรับฝึกและ Job สำหรับ inference ด้วย vLLM ทำงานบนเครื่องต่างกันได้โดยไม่ต้องใช้ NCCL
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Hugging Face 社区博客(混合发现)
- หมวดหมู่
- บทแนะนำและเทคนิค
- คะแนน AI
- 61
Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Hugging Face ใช้ LoRA และ Storage Bucket รัน Async GRPO บน HF Jobs ไม่ต้องใช้ NCCL และเร็วขึ้น 3.9 เท่า 10 กันยายน 2026 https://new.nat6.net/th/news/cmu10mxhc08m6ro2nafd8smam/