Hugging Face exécute un GRPO asynchrone sur HF Jobs avec LoRA et Storage Bucket, sans NCCL et 3,9 fois plus rapide
Titre original:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
Résumé IA
Hugging Face prend en charge dans l'AsyncGRPOTrainer de TRL v1.14 l'entraînement et la synchronisation de seuls adaptateurs LoRA ; avec le montage Storage Bucket et le routage par proxy, les Jobs d'entraînement et d'inférence vLLM tournent sur des machines différentes sans NCCL.
Points clés
- Hugging Face prend en charge dans l'AsyncGRPOTrainer de TRL v1.
- 14 l'entraînement et la synchronisation de seuls adaptateurs LoRA
- avec le montage Storage Bucket et le routage par proxy,les Jobs d'entraînement et d'inférence vLLM…
En bref
- Publié
- Mis à jour
- Source
- Hugging Face 社区博客(混合发现)
- Catégorie
- Tutoriels et astuces
- Score IA
- 61
Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Hugging Face exécute un GRPO asynchrone sur HF Jobs avec LoRA et Storage Bucket, sans NCCL et 3,9 fois plus rapide. 10. septembre 2026. https://new.nat6.net/fr/news/cmu10mxhc08m6ro2nafd8smam/