Segundong update ng trillion parameter—point-to-point weight transfer technology sa large-scale distributed reinforcement learning
Orihinal na pamagat:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026
AI summary
Para sa reinforcement learning workload sa SGLang, iminungkahi ng LMSYS team ang RDMA-based point-to-point weight update mechanism bilang supplement sa traditional NCCL broadcast method. Gumagamit ang disenyo ng source-side CPU engine replica at Mooncake TransferEngine para sa P2P RDMA transmission, na malaking nagpababa ng weight transfer time ng Kimi-K2 model na may 1T parameter mula 53 segundo patungong 7.2 segundo, 7 beses na pagbilis. Ang kapalit nito ay kailangang gumamit ng dagdag na 32G inference engine replica sa CPU memory ang bawat training level. Minimize ng optimization na ito ang network redundancy, pinapayagan ang inference server na mas mabilis na maibalik ang rollout process, at compatible sa lahat ng pangunahing open source model.
Mahahalagang impormasyon
- Para sa reinforcement learning workload sa SGLang,iminungkahi ng LMSYS team ang RDMA-based…
- Gumagamit ang disenyo ng source-side CPU engine replica at Mooncake TransferEngine para sa P2P…
- 2 segundo,7 beses na pagbilis.
- Ang kapalit nito ay kailangang gumamit ng dagdag na 32G inference engine replica sa CPU memory ang…
- Minimize ng optimization na ito ang network redundancy,pinapayagan ang inference server na mas…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- LMSYS Blog
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 74
LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Segundong update ng trillion parameter—point-to-point weight transfer technology sa large-scale distributed reinforcement learning. 29 Abril 2026. https://new.nat6.net/fil/news/cmokelt5u014nsl4fegroemhe/