Hugging Face запускает асинхронный GRPO на HF Jobs с LoRA и Storage Bucket: без NCCL и в 3,9 раза быстрее
Оригинальный заголовок:Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
ИИ-резюме
Hugging Face в AsyncGRPOTrainer из TRL v1.14 поддерживает обучение только LoRA adapter и его синхронизацию; вместе с монтированием Storage Bucket и прокси-маршрутизацией это позволяет запускать Job обучения и Job инференса vLLM на разных машинах без NCCL.
Ключевые моменты
- Hugging Face в AsyncGRPOTrainer из TRL v1.
- 14 поддерживает обучение только LoRA adapter и его синхронизацию
- вместе с монтированием Storage Bucket и прокси-маршрутизацией это позволяет запускать Job обучения…
Кратко
- Опубликовано
- Обновлено
- Источник
- Hugging Face 社区博客(混合发现)
- Категория
- Туториалы и советы
- Оценка ИИ
- 61
Hugging Face 官方用五个实验展示了如何在 Jobs 上分离训练与推理跑异步 GRPO,并通过逐项定位瓶颈把运行提速 3.9 倍,方法可迁移。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Hugging Face запускает асинхронный GRPO на HF Jobs с LoRA и Storage Bucket: без NCCL и в 3,9 раза быстрее. 10 сентября 2026. https://new.nat6.net/ru/news/cmu10mxhc08m6ro2nafd8smam/