チュートリアル

Hugging Face、LoRAとStorage BucketでHF Jobs上で非同期GRPOを実行、NCCL不要で3.9倍高速化

原題:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI 要約

Hugging FaceはTRL v1.14のAsyncGRPOTrainerで、LoRA adapterのみのトレーニングと同期をサポートした。Storage Bucketのマウントとプロキシルーティングを組み合わせ、トレーニングJobとvLLM推論Jobを異なるマシンでNCCLなしに実行できる。

要点

  • Hugging FaceはTRL v1.
  • 14のAsyncGRPOTrainerで、LoRA adapterのみのトレーニングと同期をサポートした。
  • Storage Bucketのマウントとプロキシルーティングを組み合わせ、トレーニングJobとvLLM推論Jobを異なるマシンでNCCLなしに実行できる

概要

公開日時
更新日時
出典
Hugging Face 社区博客(混合发现)
カテゴリ
チュートリアル
AI スコア
61
原文を読む 情報源で全文を読む
おすすめの理由

Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Hugging Face、LoRAとStorage BucketでHF Jobs上で非同期GRPOを実行、NCCL不要で3.9倍高速化。2026年9月10日。https://new.nat6.net/ja/news/cmu10mxhc08m6ro2nafd8smam/

すべて見る →