उत्पाद और ऐप्स

Tencent Hunyuan ने Hy3 फ्लैगशिप मॉडल को 1bit और 4bit में क्वांटाइज़ किया, अब सिंगल कार्ड पर तैनात संभव

मूल शीर्षक:极致量化,近三千亿参数 Hy3 单卡即可部署

AI सारांश

Tencent Hunyuan ने 295B पैरामीटर वाले Hy3 फ्लैगशिप मॉडल के वजन को 1bit और 4bit में क्वांटाइज़ करके GGUF फॉर्मेट में पैक किया है। llama.cpp इकोसिस्टम के साथ, इसे अब न्यूनतम एक 96GB इंफरेंस ग्राफिक्स कार्ड पर चलाया जा सकता है। 1bit वर्जन वजन को 598GB से घटाकर 85.5GiB करता है, जबकि 4bit वर्जन 169.9GiB का है। क्वांटाइज़्ड वर्जन लंबे लेखों की समझ, एआई एजेंट और कोडिंग कार्यों में मूल मॉडल के समान प्रदर्शन करता है, और MTP सक्रिय होने पर डिकोडिंग गति में लगभग 50%-60% की वृद्धि होती है।

मुख्य जानकारी

  • Tencent Hunyuan ने 295B पैरामीटर वाले Hy3 फ्लैगशिप मॉडल के वजन को 1bit और 4bit में क्वांटाइज़ करके…
  • cpp इकोसिस्टम के साथ,इसे अब न्यूनतम एक 96GB इंफरेंस ग्राफिक्स कार्ड पर चलाया जा सकता है। 1bit…
  • 5GiB करता है,जबकि 4bit वर्जन 169.
  • 9GiB का है। क्वांटाइज़्ड वर्जन लंबे लेखों की समझ,एआई एजेंट और कोडिंग कार्यों में मूल मॉडल के समान…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
公众号:腾讯混元
श्रेणी
उत्पाद और ऐप्स
AI स्कोर
78
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

将 295B 旗舰模型量化至单卡部署,1bit 版本在长文理解上仍接近满血,且提供 MTP 加速,改变了本地运行大模型的门槛与成本考量。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Tencent Hunyuan ने Hy3 फ्लैगशिप मॉडल को 1bit और 4bit में क्वांटाइज़ किया, अब सिंगल कार्ड पर तैनात संभव। 14 जुलाई 2026। https://new.nat6.net/hi/news/cmsdu2uhb013orofz5u7hfmv2/

सभी देखें →