Kemas kini trilion parameter dalam beberapa saat — teknologi pemindahan pemberat titik ke titik dalam pembelajaran pengukuhan teragih berskala besar
Tajuk asal:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026
Ringkasan AI
Pasukan LMSYS telah mencadangkan mekanisme kemas kini pemberat titik ke titik berasaskan RDMA untuk beban kerja pembelajaran pengukuhan dalam SGLang, sebagai pelengkap kepada kaedah penyiaran NCCL tradisional. Reka bentuk ini menggunakan salinan enjin CPU di sumber dan Mooncake TransferEngine untuk pemindahan RDMA P2P, memendekkan masa pemindahan pemberat model Kimi-K2 yang mempunyai 1T parameter daripada 53 saat kepada 7.2 saat, iaitu pecutan 7 kali ganda. Kosnya ialah setiap peringkat latihan perlu menggunakan satu salinan tambahan enjin penaakulan 32G dalam memori CPU. Pengoptimuman ini meminimumkan lebihan rangkaian, membolehkan pelayan penaakulan memulihkan proses rollout dengan lebih pantas, dan serasi dengan semua model sumber terbuka utama.
Maklumat penting
- Pasukan LMSYS telah mencadangkan mekanisme kemas kini pemberat titik ke titik berasaskan RDMA…
- Reka bentuk ini menggunakan salinan enjin CPU di sumber dan Mooncake TransferEngine untuk…
- 2 saat,iaitu pecutan 7 kali ganda.
- Kosnya ialah setiap peringkat latihan perlu menggunakan satu salinan tambahan enjin penaakulan 32G…
- Pengoptimuman ini meminimumkan lebihan rangkaian,membolehkan pelayan penaakulan memulihkan proses…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- LMSYS Blog
- Kategori
- Kertas penyelidikan
- Skor AI
- 74
LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Kemas kini trilion parameter dalam beberapa saat — teknologi pemindahan pemberat titik ke titik dalam pembelajaran pengukuhan teragih berskala besar. 29 April 2026. https://new.nat6.net/ms/news/cmokelt5u014nsl4fegroemhe/