Hugging Face、LoRAとStorage BucketでHF Jobs上で非同期GRPOを実行、NCCL不要で3.9倍高速化
原題:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 要約
Hugging FaceはTRL v1.14のAsyncGRPOTrainerで、LoRA adapterのみのトレーニングと同期をサポートした。Storage Bucketのマウントとプロキシルーティングを組み合わせ、トレーニングJobとvLLM推論Jobを異なるマシンでNCCLなしに実行できる。
要点
- Hugging FaceはTRL v1.
- 14のAsyncGRPOTrainerで、LoRA adapterのみのトレーニングと同期をサポートした。
- Storage Bucketのマウントとプロキシルーティングを組み合わせ、トレーニングJobとvLLM推論Jobを異なるマシンでNCCLなしに実行できる
概要
- 公開日時
- 更新日時
- カテゴリ
- チュートリアル
- AI スコア
- 61
おすすめの理由
Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Hugging Face、LoRAとStorage BucketでHF Jobs上で非同期GRPOを実行、NCCL不要で3.9倍高速化。2026年9月10日。https://new.nat6.net/ja/news/cmu10mxhc08m6ro2nafd8smam/