Zhipu, Yuxun Network y Tsinghua proponen la arquitectura de red ZCube para resolver el cuello de botella de la inferencia de grandes modelos
Título original:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
Resumen de IA
Zhipu, Yuxun Network y la Universidad de Tsinghua proponen e implementan conjuntamente la arquitectura de red ZCube, que sustituye la topología tradicional Clos/ROFT por una topología plana, eliminando a nivel estructural la congestión evitable en la inferencia con separación PD. En pruebas reales con un clúster de mil tarjetas en el entorno de producción de GLM-5.1 coding, ZCube mejora el rendimiento medio de inferencia por GPU en más del 15% frente a ROFT, reduce el TTFT P99 un 40,6% y disminuye aproximadamente un tercio el coste de switches y módulos ópticos.
Puntos clave
- Zhipu,Yuxun Network y la Universidad de Tsinghua proponen e implementan conjuntamente la…
- En pruebas reales con un clúster de mil tarjetas en el entorno de producción de GLM-5.
- 1 coding,ZCube mejora el rendimiento medio de inferencia por GPU en más del 15% frente a…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- 公众号:智谱(GLM)
- Categoría
- Artículos e investigación
- Puntuación IA
- 76
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Zhipu, Yuxun Network y Tsinghua proponen la arquitectura de red ZCube para resolver el cuello de botella de la inferencia de grandes modelos. 21. mayo 2026. https://new.nat6.net/es/news/cmsdu107800u2rofz68f17j53/