智譜、馭馴網絡と清華大がZCubeネットワークアーキテクチャを提案、大規模言語モデル推論のネットワークボトルネックを解消
原題:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
AI 要約
智譜、馭馴網絡、清華大学は共同でZCubeネットワークアーキテクチャを提案し実装した。フラットなトポロジで従来のClos/ROFTアーキテクチャを置き換え、構造面からPD分離推論における回避可能な輻輳を排除する。GLM-5.1 codingの本番環境千カードクラスタでの実測では、ZCubeはROFTと比べてGPU平均推論スループットを15%以上向上させ、TTFT P99を40.6%低減し、同時にスイッチと光モジュールのコストを約3分の1削減した。
要点
- 智譜、馭馴網絡、清華大学は共同でZCubeネットワークアーキテクチャを提案し実装した。
- フラットなトポロジで従来のClos/ROFTアーキテクチャを置き換え、構造面からPD分離推論における回避可能な輻輳を排除する。
- 1 codingの本番環境千カードクラスタでの実測では、ZCubeはROFTと比べてGPU平均推論スループットを15%以上向上させ、TTFT P99を40.
- 6%低減し、同時にスイッチと光モジュールのコストを約3分の1削減した
概要
- 公開日時
- 更新日時
- 出典
- 公众号:智谱(GLM)
- カテゴリ
- 論文・研究
- AI スコア
- 76
おすすめの理由
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:智譜、馭馴網絡と清華大がZCubeネットワークアーキテクチャを提案、大規模言語モデル推論のネットワークボトルネックを解消。2026年5月21日。https://new.nat6.net/ja/news/cmsdu107800u2rofz68f17j53/