Tutoriels et astuces

Hugging Face exécute un GRPO asynchrone sur HF Jobs avec LoRA et Storage Bucket, sans NCCL et 3,9 fois plus rapide

Titre original:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

Résumé IA

Hugging Face prend en charge dans l'AsyncGRPOTrainer de TRL v1.14 l'entraînement et la synchronisation de seuls adaptateurs LoRA ; avec le montage Storage Bucket et le routage par proxy, les Jobs d'entraînement et d'inférence vLLM tournent sur des machines différentes sans NCCL.

Points clés

  • Hugging Face prend en charge dans l'AsyncGRPOTrainer de TRL v1.
  • 14 l'entraînement et la synchronisation de seuls adaptateurs LoRA
  • avec le montage Storage Bucket et le routage par proxy,les Jobs d'entraînement et d'inférence vLLM…

En bref

Publié
Mis à jour
Source
Hugging Face 社区博客(混合发现)
Catégorie
Tutoriels et astuces
Score IA
61
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Hugging Face exécute un GRPO asynchrone sur HF Jobs avec LoRA et Storage Bucket, sans NCCL et 3,9 fois plus rapide. 10. septembre 2026. https://new.nat6.net/fr/news/cmu10mxhc08m6ro2nafd8smam/

Tout voir →