Mga Papel at Pananaliksik

Segundong update ng trillion parameter—point-to-point weight transfer technology sa large-scale distributed reinforcement learning

Orihinal na pamagat:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026

AI summary

Para sa reinforcement learning workload sa SGLang, iminungkahi ng LMSYS team ang RDMA-based point-to-point weight update mechanism bilang supplement sa traditional NCCL broadcast method. Gumagamit ang disenyo ng source-side CPU engine replica at Mooncake TransferEngine para sa P2P RDMA transmission, na malaking nagpababa ng weight transfer time ng Kimi-K2 model na may 1T parameter mula 53 segundo patungong 7.2 segundo, 7 beses na pagbilis. Ang kapalit nito ay kailangang gumamit ng dagdag na 32G inference engine replica sa CPU memory ang bawat training level. Minimize ng optimization na ito ang network redundancy, pinapayagan ang inference server na mas mabilis na maibalik ang rollout process, at compatible sa lahat ng pangunahing open source model.

Mahahalagang impormasyon

  • Para sa reinforcement learning workload sa SGLang,iminungkahi ng LMSYS team ang RDMA-based…
  • Gumagamit ang disenyo ng source-side CPU engine replica at Mooncake TransferEngine para sa P2P…
  • 2 segundo,7 beses na pagbilis.
  • Ang kapalit nito ay kailangang gumamit ng dagdag na 32G inference engine replica sa CPU memory ang…
  • Minimize ng optimization na ito ang network redundancy,pinapayagan ang inference server na mas…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
LMSYS Blog
Kategorya
Mga Papel at Pananaliksik
AI na marka
74
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Segundong update ng trillion parameter—point-to-point weight transfer technology sa large-scale distributed reinforcement learning. 29 Abril 2026. https://new.nat6.net/fil/news/cmokelt5u014nsl4fegroemhe/

Tingnan lahat →