Zhipu bersama Yuxun Network dan Tsinghua mengusulkan arsitektur jaringan ZCube untuk mengatasi hambatan jaringan penalaran model besar
Judul asli:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
Ringkasan AI
Zhipu, Yuxun Network, dan Universitas Tsinghua bersama mengusulkan dan menerapkan arsitektur jaringan ZCube, menggantikan arsitektur Clos/ROFT tradisional dengan topologi datar, untuk menghilangkan kemacetan yang dapat dihindari dalam penalaran pemisahan PD dari tingkat struktur. Dalam uji coba pada klaster ribuan GPU di lingkungan produksi coding GLM-5.1, ZCube meningkatkan throughput penalaran rata-rata GPU lebih dari 15% dibanding ROFT, menurunkan TTFT P99 sebesar 40,6%, sekaligus mengurangi sekitar sepertiga biaya switch dan modul optik.
Poin utama
- Zhipu,Yuxun Network,dan Universitas Tsinghua bersama mengusulkan dan menerapkan arsitektur…
- Dalam uji coba pada klaster ribuan GPU di lingkungan produksi coding GLM-5.
- 1,ZCube meningkatkan throughput penalaran rata-rata GPU lebih dari 15% dibanding ROFT,menurunkan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- 公众号:智谱(GLM)
- Kategori
- Makalah & Riset
- Skor AI
- 76
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Zhipu bersama Yuxun Network dan Tsinghua mengusulkan arsitektur jaringan ZCube untuk mengatasi hambatan jaringan penalaran model besar. 21 Mei 2026. https://new.nat6.net/id/news/cmsdu107800u2rofz68f17j53/