Hugging Face führt asynchrones GRPO mit LoRA und Storage Bucket auf HF Jobs aus – ohne NCCL und 3,9-mal schneller
Originaltitel:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
KI-Zusammenfassung
Hugging Face unterstützt im AsyncGRPOTrainer von TRL v1.14 das Training und die Synchronisierung von LoRA-Adaptern; zusammen mit Storage-Bucket-Mounts und Proxy-Routing können Trainings-Jobs und vLLM-Inferenz-Jobs auf verschiedenen Maschinen laufen, ohne NCCL zu benötigen.
Kernpunkte
- Hugging Face unterstützt im AsyncGRPOTrainer von TRL v1.
- 14 das Training und die Synchronisierung von LoRA-Adaptern
- zusammen mit Storage-Bucket-Mounts und Proxy-Routing können Trainings-Jobs und vLLM-Inferenz-Jobs…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- Hugging Face 社区博客(混合发现)
- Kategorie
- Tutorials & Tipps
- KI-Bewertung
- 61
Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Hugging Face führt asynchrones GRPO mit LoRA und Storage Bucket auf HF Jobs aus – ohne NCCL und 3,9-mal schneller. 10. September 2026. https://new.nat6.net/de/news/cmu10mxhc08m6ro2nafd8smam/