Zhipu совместно с Yuxun Network и Университетом Цинхуа предложила сетевую архитектуру ZCube для устранения узкого места сети при инференсе больших моделей
Оригинальный заголовок:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
ИИ-резюме
Zhipu, Yuxun Network и Университет Цинхуа совместно предложили и внедрили сетевую архитектуру ZCube, которая заменяет традиционную архитектуру Clos/ROFT плоской топологией и на структурном уровне устраняет устранимые перегрузки при раздельном инференсе PD. В тестах на тысячекарточном кластере в производственной среде GLM-5.1 coding ZCube по сравнению с ROFT повысила среднюю пропускную способность инференса GPU более чем на 15%, снизила TTFT P99 на 40,6% и сократила затраты на коммутаторы и оптические модули примерно на треть.
Ключевые моменты
- Zhipu,Yuxun Network и Университет Цинхуа совместно предложили и внедрили сетевую архитектуру…
- В тестах на тысячекарточном кластере в производственной среде GLM-5.
- 1 coding ZCube по сравнению с ROFT повысила среднюю пропускную способность инференса GPU более чем…
Кратко
- Опубликовано
- Обновлено
- Источник
- 公众号:智谱(GLM)
- Категория
- Статьи и исследования
- Оценка ИИ
- 76
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Zhipu совместно с Yuxun Network и Университетом Цинхуа предложила сетевую архитектуру ZCube для устранения узкого места сети при инференсе больших моделей. 21 мая 2026. https://new.nat6.net/ru/news/cmsdu107800u2rofz68f17j53/