Artículos e investigación

Zhipu, Yuxun Network y Tsinghua proponen la arquitectura de red ZCube para resolver el cuello de botella de la inferencia de grandes modelos

Título original:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?

Resumen de IA

Zhipu, Yuxun Network y la Universidad de Tsinghua proponen e implementan conjuntamente la arquitectura de red ZCube, que sustituye la topología tradicional Clos/ROFT por una topología plana, eliminando a nivel estructural la congestión evitable en la inferencia con separación PD. En pruebas reales con un clúster de mil tarjetas en el entorno de producción de GLM-5.1 coding, ZCube mejora el rendimiento medio de inferencia por GPU en más del 15% frente a ROFT, reduce el TTFT P99 un 40,6% y disminuye aproximadamente un tercio el coste de switches y módulos ópticos.

Puntos clave

  • Zhipu,Yuxun Network y la Universidad de Tsinghua proponen e implementan conjuntamente la…
  • En pruebas reales con un clúster de mil tarjetas en el entorno de producción de GLM-5.
  • 1 coding,ZCube mejora el rendimiento medio de inferencia por GPU en más del 15% frente a…

Resumen rápido

Publicado
Actualizado
Fuente
公众号:智谱(GLM)
Categoría
Artículos e investigación
Puntuación IA
76
Leer el original Leer el artículo completo en la fuente original
Por qué importa

架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Zhipu, Yuxun Network y Tsinghua proponen la arquitectura de red ZCube para resolver el cuello de botella de la inferencia de grandes modelos. 21. mayo 2026. https://new.nat6.net/es/news/cmsdu107800u2rofz68f17j53/

Ver todo →