Zhipu, Yuxun Network और Tsinghua ने ZCube नेटवर्किंग आर्किटेक्चर पेश किया, बड़े भाषा मॉडल के तर्क नेटवर्क में बाधाओं को दूर किया
मूल शीर्षक:下一代大模型推理网络架构:ZCube如何有效破解网络瓶颈?
AI सारांश
Zhipu, Yuxun Network और Tsinghua University ने संयुक्त रूप से ZCube नेटवर्किंग आर्किटेक्चर को पेश और लागू किया है। यह पारंपरिक Clos/ROFT आर्किटेक्चर की जगह फ्लैट टोपोलॉजी का उपयोग करता है और PD-विभाजित तर्क में अनावश्यक कंजेशन को हटाता है। GLM-5.1 कोडिंग प्रोडक्शन वातावरण में 1000-GPU क्लस्टर परीक्षणों में, ZCube ने ROFT की तुलना में GPU औसत तर्क थ्रूपुट में 15% से अधिक की वृद्धि की, TTFT P99 को 40.6% तक कम किया, और स्विच व ऑप्टिकल मॉड्यूल की लागत में लगभग एक-तिहाई की बचत की।
मुख्य जानकारी
- Zhipu,Yuxun Network और Tsinghua University ने संयुक्त रूप से ZCube नेटवर्किंग आर्किटेक्चर को पेश…
- 1 कोडिंग प्रोडक्शन वातावरण में 1000-GPU क्लस्टर परीक्षणों में,ZCube ने ROFT की तुलना में GPU औसत…
- 6% तक कम किया,और स्विच व ऑप्टिकल मॉड्यूल की लागत में लगभग एक-तिहाई की बचत की।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- 公众号:智谱(GLM)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 76
架构创新不只是省钱,ZCube 在 GLM-5.1 集群里用三分之一交换机成本换来 15% 吞吐提升和 40% 尾时延改善,为 PD 分离推理提供了一条可复用的组网路径。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Zhipu, Yuxun Network और Tsinghua ने ZCube नेटवर्किंग आर्किटेक्चर पेश किया, बड़े भाषा मॉडल के तर्क नेटवर्क में बाधाओं को दूर किया। 21 मई 2026। https://new.nat6.net/hi/news/cmsdu107800u2rofz68f17j53/