Туториалы и советы

Hugging Face запускает асинхронный GRPO на HF Jobs с LoRA и Storage Bucket: без NCCL и в 3,9 раза быстрее

Оригинальный заголовок:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

ИИ-резюме

Hugging Face в AsyncGRPOTrainer из TRL v1.14 поддерживает обучение только LoRA adapter и его синхронизацию; вместе с монтированием Storage Bucket и прокси-маршрутизацией это позволяет запускать Job обучения и Job инференса vLLM на разных машинах без NCCL.

Ключевые моменты

  • Hugging Face в AsyncGRPOTrainer из TRL v1.
  • 14 поддерживает обучение только LoRA adapter и его синхронизацию
  • вместе с монтированием Storage Bucket и прокси-маршрутизацией это позволяет запускать Job обучения…

Кратко

Опубликовано
Обновлено
Источник
Hugging Face 社区博客(混合发现)
Категория
Туториалы и советы
Оценка ИИ
61
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Hugging Face запускает асинхронный GRPO на HF Jobs с LoRA и Storage Bucket: без NCCL и в 3,9 раза быстрее. 10 сентября 2026. https://new.nat6.net/ru/news/cmu10mxhc08m6ro2nafd8smam/

Смотреть все →