論文・研究

智譜、馭馴網絡と清華大がZCubeネットワークアーキテクチャを提案、大規模言語モデル推論のネットワークボトルネックを解消

原題:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?

AI 要約

智譜、馭馴網絡、清華大学は共同でZCubeネットワークアーキテクチャを提案し実装した。フラットなトポロジで従来のClos/ROFTアーキテクチャを置き換え、構造面からPD分離推論における回避可能な輻輳を排除する。GLM-5.1 codingの本番環境千カードクラスタでの実測では、ZCubeはROFTと比べてGPU平均推論スループットを15%以上向上させ、TTFT P99を40.6%低減し、同時にスイッチと光モジュールのコストを約3分の1削減した。

要点

  • 智譜、馭馴網絡、清華大学は共同でZCubeネットワークアーキテクチャを提案し実装した。
  • フラットなトポロジで従来のClos/ROFTアーキテクチャを置き換え、構造面からPD分離推論における回避可能な輻輳を排除する。
  • 1 codingの本番環境千カードクラスタでの実測では、ZCubeはROFTと比べてGPU平均推論スループットを15%以上向上させ、TTFT P99を40.
  • 6%低減し、同時にスイッチと光モジュールのコストを約3分の1削減した

概要

公開日時
更新日時
出典
公众号:智谱(GLM)
カテゴリ
論文・研究
AI スコア
76
原文を読む 情報源で全文を読む
おすすめの理由

架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:智譜、馭馴網絡と清華大がZCubeネットワークアーキテクチャを提案、大規模言語モデル推論のネットワークボトルネックを解消。2026年5月21日。https://new.nat6.net/ja/news/cmsdu107800u2rofz68f17j53/

すべて見る →