Bài báo & nghiên cứu

Zhipu cùng Yuxun Network và Đại học Thanh Hoa đề xuất kiến trúc mạng ZCube, phá nút thắt mạng suy luận mô hình lớn

Tiêu đề gốc:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?

Tóm tắt AI

Zhipu, Yuxun Network và Đại học Thanh Hoa cùng đề xuất và triển khai kiến trúc mạng ZCube, thay thế kiến trúc Clos/ROFT truyền thống bằng cấu trúc phẳng, loại bỏ tắc nghẽn có thể tránh trong suy luận tách PD từ cấp cấu trúc. Trong thử nghiệm thực tế trên cụm nghìn card ở môi trường sản xuất coding GLM-5.1, ZCube so với ROFT tăng thông lượng suy luận trung bình của GPU hơn 15%, giảm 40,6% TTFT P99, đồng thời giảm khoảng một phần ba chi phí switch và module quang.

Thông tin chính

  • Zhipu,Yuxun Network và Đại học Thanh Hoa cùng đề xuất và triển khai kiến trúc mạng ZCube,thay thế…
  • Trong thử nghiệm thực tế trên cụm nghìn card ở môi trường sản xuất coding GLM-5.
  • 1,ZCube so với ROFT tăng thông lượng suy luận trung bình của GPU hơn 15%,giảm 40,6% TTFT P99,đồng…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
公众号:智谱(GLM)
Danh mục
Bài báo & nghiên cứu
Điểm AI
76
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Zhipu cùng Yuxun Network và Đại học Thanh Hoa đề xuất kiến trúc mạng ZCube, phá nút thắt mạng suy luận mô hình lớn. 21 tháng 5 2026. https://new.nat6.net/vi/news/cmsdu107800u2rofz68f17j53/

Xem tất cả →