Обновление триллиона параметров за секунды — технология одноранговой передачи весов в крупномасштабном распределённом обучении с подкреплением
Оригинальный заголовок:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026
ИИ-резюме
Команда LMSYS для рабочих нагрузок обучения с подкреплением в SGLang предложила механизм однорангового обновления весов на основе RDMA как дополнение к традиционному методу широковещательной рассылки NCCL. Решение использует копию CPU-движка на источнике и Mooncake TransferEngine для P2P-передачи по RDMA, что сокращает время передачи весов модели Kimi-K2 с 1T параметров с 53 секунд до 7,2 секунды — ускорение в 7 раз. Цена — дополнительная копия движка рассуждений объёмом 32G в памяти CPU на каждом уровне обучения. Оптимизация минимизирует сетевую избыточность, позволяет серверам рассуждений быстрее возобновлять rollout и совместима со всеми основными моделями с открытым исходным кодом.
Ключевые моменты
- Команда LMSYS для рабочих нагрузок обучения с подкреплением в SGLang предложила механизм…
- Решение использует копию CPU-движка на источнике и Mooncake TransferEngine для P2P-передачи по…
- Цена — дополнительная копия движка рассуждений объёмом 32G в памяти CPU на каждом уровне обучения.
- Оптимизация минимизирует сетевую избыточность,позволяет серверам рассуждений быстрее возобновлять…
Кратко
- Опубликовано
- Обновлено
- Источник
- LMSYS Blog
- Категория
- Статьи и исследования
- Оценка ИИ
- 74
LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Обновление триллиона параметров за секунды — технология одноранговой передачи весов в крупномасштабном распределённом обучении с подкреплением. 29 апреля 2026. https://new.nat6.net/ru/news/cmokelt5u014nsl4fegroemhe/