Zhipu cùng Yuxun Network và Đại học Thanh Hoa đề xuất kiến trúc mạng ZCube, phá nút thắt mạng suy luận mô hình lớn
Tiêu đề gốc:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
Tóm tắt AI
Zhipu, Yuxun Network và Đại học Thanh Hoa cùng đề xuất và triển khai kiến trúc mạng ZCube, thay thế kiến trúc Clos/ROFT truyền thống bằng cấu trúc phẳng, loại bỏ tắc nghẽn có thể tránh trong suy luận tách PD từ cấp cấu trúc. Trong thử nghiệm thực tế trên cụm nghìn card ở môi trường sản xuất coding GLM-5.1, ZCube so với ROFT tăng thông lượng suy luận trung bình của GPU hơn 15%, giảm 40,6% TTFT P99, đồng thời giảm khoảng một phần ba chi phí switch và module quang.
Thông tin chính
- Zhipu,Yuxun Network và Đại học Thanh Hoa cùng đề xuất và triển khai kiến trúc mạng ZCube,thay thế…
- Trong thử nghiệm thực tế trên cụm nghìn card ở môi trường sản xuất coding GLM-5.
- 1,ZCube so với ROFT tăng thông lượng suy luận trung bình của GPU hơn 15%,giảm 40,6% TTFT P99,đồng…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- 公众号:智谱(GLM)
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 76
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Zhipu cùng Yuxun Network và Đại học Thanh Hoa đề xuất kiến trúc mạng ZCube, phá nút thắt mạng suy luận mô hình lớn. 21 tháng 5 2026. https://new.nat6.net/vi/news/cmsdu107800u2rofz68f17j53/