Pembaruan Triliun Parameter dalam Hitungan Detik — Teknologi Transfer Bobot Peer-to-Peer dalam Pembelajaran Penguatan Terdistribusi Skala Besar
Judul asli:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026
Ringkasan AI
Tim LMSYS mengusulkan mekanisme pembaruan bobot peer-to-peer berbasis RDMA untuk beban kerja pembelajaran penguatan di SGLang, sebagai pelengkap metode siaran NCCL konvensional. Desain ini memanfaatkan replika mesin CPU di sisi sumber dan Mooncake TransferEngine untuk transfer RDMA P2P, mempersingkat waktu transfer bobot model Kimi-K2 dengan 1T parameter dari 53 detik menjadi 7,2 detik, atau 7 kali lebih cepat. Konsekuensinya, setiap tingkat pelatihan memerlukan tambahan satu replika mesin inferensi berukuran 32G di memori CPU. Optimalisasi ini meminimalkan redundansi jaringan, memungkinkan server inferensi lebih cepat melanjutkan proses rollout, dan kompatibel dengan semua model sumber terbuka utama.
Poin utama
- Tim LMSYS mengusulkan mekanisme pembaruan bobot peer-to-peer berbasis RDMA untuk beban kerja…
- Desain ini memanfaatkan replika mesin CPU di sisi sumber dan Mooncake TransferEngine untuk…
- Konsekuensinya,setiap tingkat pelatihan memerlukan tambahan satu replika mesin inferensi berukuran…
- Optimalisasi ini meminimalkan redundansi jaringan,memungkinkan server inferensi lebih cepat…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- LMSYS Blog
- Kategori
- Makalah & Riset
- Skor AI
- 74
LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Pembaruan Triliun Parameter dalam Hitungan Detik — Teknologi Transfer Bobot Peer-to-Peer dalam Pembelajaran Penguatan Terdistribusi Skala Besar. 29 April 2026. https://new.nat6.net/id/news/cmokelt5u014nsl4fegroemhe/