Bài báo & nghiên cứu

Cập nhật nghìn tỷ tham số trong vài giây – Kỹ thuật truyền trọng số điểm-điểm trong học tăng cường phân tán quy mô lớn

Tiêu đề gốc:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026

Tóm tắt AI

Nhóm LMSYS, hướng tới khối lượng công việc học tăng cường trong SGLang, đã đề xuất cơ chế cập nhật trọng số điểm-điểm dựa trên RDMA, bổ sung cho phương pháp phát sóng NCCL truyền thống. Thiết kế sử dụng bản sao công cụ CPU phía nguồn và Mooncake TransferEngine để truyền P2P RDMA, rút ngắn mạnh thời gian truyền trọng số của mô hình Kimi-K2 với 1T tham số từ 53 giây xuống còn 7,2 giây, tăng tốc 7 lần. Cái giá là mỗi cấp huấn luyện cần thêm một bản sao công cụ suy luận 32G trong bộ nhớ CPU. Tối ưu hóa này giảm thiểu dư thừa mạng, cho phép máy chủ suy luận nhanh chóng khôi phục quá trình rollout và tương thích với tất cả các mô hình mã nguồn mở chính thống.

Thông tin chính

  • Nhóm LMSYS,hướng tới khối lượng công việc học tăng cường trong SGLang,đã đề xuất cơ chế cập nhật…
  • Thiết kế sử dụng bản sao công cụ CPU phía nguồn và Mooncake TransferEngine để truyền P2P RDMA,rút…
  • Cái giá là mỗi cấp huấn luyện cần thêm một bản sao công cụ suy luận 32G trong bộ nhớ CPU.
  • Tối ưu hóa này giảm thiểu dư thừa mạng,cho phép máy chủ suy luận nhanh chóng khôi phục quá trình…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
LMSYS Blog
Danh mục
Bài báo & nghiên cứu
Điểm AI
74
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Cập nhật nghìn tỷ tham số trong vài giây – Kỹ thuật truyền trọng số điểm-điểm trong học tăng cường phân tán quy mô lớn. 29 tháng 4 2026. https://new.nat6.net/vi/news/cmokelt5u014nsl4fegroemhe/

Xem tất cả →