智谱联合驭驯网络与清华提出ZCube组网架构,破解大模型推理网络瓶颈
原文标题:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
AI 摘要
智谱、驭驯网络与清华大学联合提出并落地ZCube组网架构,以扁平化拓扑替代传统Clos/ROFT架构,从结构层面消除PD分离推理中的可避免拥塞。在GLM-5.1 coding生产环境千卡集群实测中,ZCube相比ROFT将GPU平均推理吞吐提升15%以上,TTFT P99降低40.6%,同时减少约三分之一的交换机与光模块成本。
关键信息
- 智谱、驭驯网络与清华大学联合提出并落地ZCube组网架构,以扁平化拓扑替代传统Clos/ROFT架构,从结构层面消除PD分离推理中的可避免拥塞。
- 1 coding生产环境千卡集群实测中,ZCube相比ROFT将GPU平均推理吞吐提升15%以上,TTFT P99降低40.
- 6%,同时减少约三分之一的交换机与光模块成本
- 架构创新不只是省钱,ZCube 在 GLM-5.
- 1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径
速览
- 发布时间
- 更新时间
- 来源
- 公众号:智谱(GLM)
- 分类
- 论文与研究
- AI 评分
- 76
推荐理由
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:智谱联合驭驯网络与清华提出ZCube组网架构,破解大模型推理网络瓶颈。2026年5月21日。https://new.nat6.net/news/cmsdu107800u2rofz68f17j53/