Статьи и исследования

Zhipu совместно с Yuxun Network и Университетом Цинхуа предложила сетевую архитектуру ZCube для устранения узкого места сети при инференсе больших моделей

Оригинальный заголовок:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?

ИИ-резюме

Zhipu, Yuxun Network и Университет Цинхуа совместно предложили и внедрили сетевую архитектуру ZCube, которая заменяет традиционную архитектуру Clos/ROFT плоской топологией и на структурном уровне устраняет устранимые перегрузки при раздельном инференсе PD. В тестах на тысячекарточном кластере в производственной среде GLM-5.1 coding ZCube по сравнению с ROFT повысила среднюю пропускную способность инференса GPU более чем на 15%, снизила TTFT P99 на 40,6% и сократила затраты на коммутаторы и оптические модули примерно на треть.

Ключевые моменты

  • Zhipu,Yuxun Network и Университет Цинхуа совместно предложили и внедрили сетевую архитектуру…
  • В тестах на тысячекарточном кластере в производственной среде GLM-5.
  • 1 coding ZCube по сравнению с ROFT повысила среднюю пропускную способность инференса GPU более чем…

Кратко

Опубликовано
Обновлено
Источник
公众号:智谱(GLM)
Категория
Статьи и исследования
Оценка ИИ
76
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Zhipu совместно с Yuxun Network и Университетом Цинхуа предложила сетевую архитектуру ZCube для устранения узкого места сети при инференсе больших моделей. 21 мая 2026. https://new.nat6.net/ru/news/cmsdu107800u2rofz68f17j53/

Смотреть все →