Papers & Forschung

Billionen Parameter in Sekunden aktualisieren – Peer-to-Peer-Gewichtstransfer im großskaligen verteilten Reinforcement Learning

Originaltitel:Blog Updating 1T parameters in seconds — P2P weight transfer in Large Scale Distributed RL We introduced a RDMA-based, Peer to Peer weight update mechanism for RL workloads in SGLang as a supplement to traditional NCCL broadcast methods, compatible with all major open source models. By util... Jiadong Guo, Xin Ji, Letian Ruan, Teng Ma, Chenyang Zhao, Yueming Yuan, Zhichen Zeng April 29, 2026

KI-Zusammenfassung

Das LMSYS-Team hat für Reinforcement-Learning-Workloads in SGLang einen RDMA-basierten Peer-to-Peer-Mechanismus zur Gewichtsaktualisierung vorgeschlagen, der die herkömmliche NCCL-Broadcast-Methode ergänzt. Das Design nutzt eine CPU-Engine-Kopie auf der Quellseite und den Mooncake TransferEngine für P2P-RDMA-Übertragungen und verkürzt die Übertragungszeit der Gewichte des Kimi-K2-Modells mit 1T Parametern von 53 Sekunden auf 7,2 Sekunden – eine 7-fache Beschleunigung. Der Preis dafür ist eine zusätzliche 32-GB-Kopie der Inferenz-Engine im CPU-Speicher pro Trainingsstufe. Diese Optimierung minimiert Netzwerkredundanz, ermöglicht Inferenzservern eine schnellere Wiederaufnahme des Rollout-Prozesses und ist mit allen gängigen Open-Source-Modellen kompatibel.

Kernpunkte

  • Das LMSYS-Team hat für Reinforcement-Learning-Workloads in SGLang einen RDMA-basierten…
  • Das Design nutzt eine CPU-Engine-Kopie auf der Quellseite und den Mooncake TransferEngine für…
  • Der Preis dafür ist eine zusätzliche 32-GB-Kopie der Inferenz-Engine im CPU-Speicher pro…
  • Diese Optimierung minimiert Netzwerkredundanz,ermöglicht Inferenzservern eine schnellere…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
LMSYS Blog
Kategorie
Papers & Forschung
KI-Bewertung
74
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

LMSYS 把分布式 RL 训练的权重同步从 NCCL 广播改成 RDMA P2P,1T 参数模型传输快了 7 倍,做大规模 RL infra 的团队该认真看看这个工程方案。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Billionen Parameter in Sekunden aktualisieren – Peer-to-Peer-Gewichtstransfer im großskaligen verteilten Reinforcement Learning. 29. April 2026. https://new.nat6.net/de/news/cmokelt5u014nsl4fegroemhe/

Alle ansehen →