Makalah & Riset

Zhipu bersama Yuxun Network dan Tsinghua mengusulkan arsitektur jaringan ZCube untuk mengatasi hambatan jaringan penalaran model besar

Judul asli:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?

Ringkasan AI

Zhipu, Yuxun Network, dan Universitas Tsinghua bersama mengusulkan dan menerapkan arsitektur jaringan ZCube, menggantikan arsitektur Clos/ROFT tradisional dengan topologi datar, untuk menghilangkan kemacetan yang dapat dihindari dalam penalaran pemisahan PD dari tingkat struktur. Dalam uji coba pada klaster ribuan GPU di lingkungan produksi coding GLM-5.1, ZCube meningkatkan throughput penalaran rata-rata GPU lebih dari 15% dibanding ROFT, menurunkan TTFT P99 sebesar 40,6%, sekaligus mengurangi sekitar sepertiga biaya switch dan modul optik.

Poin utama

  • Zhipu,Yuxun Network,dan Universitas Tsinghua bersama mengusulkan dan menerapkan arsitektur…
  • Dalam uji coba pada klaster ribuan GPU di lingkungan produksi coding GLM-5.
  • 1,ZCube meningkatkan throughput penalaran rata-rata GPU lebih dari 15% dibanding ROFT,menurunkan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
公众号:智谱(GLM)
Kategori
Makalah & Riset
Skor AI
76
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Zhipu bersama Yuxun Network dan Tsinghua mengusulkan arsitektur jaringan ZCube untuk mengatasi hambatan jaringan penalaran model besar. 21 Mei 2026. https://new.nat6.net/id/news/cmsdu107800u2rofz68f17j53/

Lihat semua →