论文与研究

智谱联合驭驯网络与清华提出ZCube组网架构,破解大模型推理网络瓶颈

原文标题:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?

AI 摘要

智谱、驭驯网络与清华大学联合提出并落地ZCube组网架构,以扁平化拓扑替代传统Clos/ROFT架构,从结构层面消除PD分离推理中的可避免拥塞。在GLM-5.1 coding生产环境千卡集群实测中,ZCube相比ROFT将GPU平均推理吞吐提升15%以上,TTFT P99降低40.6%,同时减少约三分之一的交换机与光模块成本。

关键信息

  • 智谱、驭驯网络与清华大学联合提出并落地ZCube组网架构,以扁平化拓扑替代传统Clos/ROFT架构,从结构层面消除PD分离推理中的可避免拥塞。
  • 1 coding生产环境千卡集群实测中,ZCube相比ROFT将GPU平均推理吞吐提升15%以上,TTFT P99降低40.
  • 6%,同时减少约三分之一的交换机与光模块成本
  • 架构创新不只是省钱,ZCube 在 GLM-5.
  • 1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径

速览

发布时间
更新时间
来源
公众号:智谱(GLM)
分类
论文与研究
AI 评分
76
阅读原文 前往信息源阅读完整正文
推荐理由

架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:智谱联合驭驯网络与清华提出ZCube组网架构,破解大模型推理网络瓶颈。2026年5月21日。https://new.nat6.net/news/cmsdu107800u2rofz68f17j53/

查看全部 →
  • OpenAI模型证伪了离散几何中的一个核心猜想

    OpenAI开发的人工智能模型成功解决了数学界悬而未决逾80年的“单元距离问题”,并由此推翻了离散几何领域的一个核心猜想。这一突破被视作人工智能驱动数学研究的里程碑事件,标志着AI在基础科学理论探索中取得了实质性进展。该模型通过创新算法处…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 88

  • 开源古代汉字视觉感知评估基准Chronicles-OCR

    开源了评估视觉大语言模型(VLLM)对古代汉字视觉感知能力的基准测试Chronicles-OCR。该数据集覆盖了从甲骨文到草书的3000年演变历程,包含7种历史书体与2800张均衡图像。评估涵盖字形定位、细粒度识别、古代文本解析和字体分类…

    X:腾讯混元 (@TencentHunyuan)论文与研究AI 评分 72

  • VSAS-Bench:视觉流式辅助模型的实时评估基准

    现有视觉语言模型框架主要在离线场景下评估性能,但实时视觉助手所依赖的流式模型还需考量额外指标,如反映响应时效性的“主动性”和捕捉随时间推移响应稳定性的“一致性”。为此,研究团队提出了VSAS-Bench,这是一个新的评估基准,专门针对流式…

    Apple Machine Learning Research(RSS)论文与研究AI 评分 66