ट्यूटोरियल और टिप्स

MNN ने SME2 को अनुकूलित कर Qwen3-VL-4B को डिवाइस पर रीयल-टाइम तर्क में सक्षम बनाया

मूल शीर्षक:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞

AI सारांश

MNN इन्फरेंस इंजन ने Arm SME2 निर्देश सेट को गहराई से अनुकूलित किया है, जिससे Qwen3-VL-4B-Instruct SME2 समर्थित vivo X300 पर रीयल-टाइम मल्टीमॉडल तर्क कर सकता है। Prefill चरण में प्रदर्शन 81% बढ़ा और Decode चरण में 13% वृद्धि हुई। MNN में कंपाइल-टाइम अंतर्निहित और रनटाइम स्वचालित पहचान डिज़ाइन अपनाया गया है, और SME2 त्वरण डिफ़ॉल्ट रूप से सक्षम है। यह मॉडल 4B पैरामीटर वाला विज़न-लैंग्वेज मॉडल है, जो इमेज-टेक्स्ट समझ और संवाद का समर्थन करता है; MNN द्वारा आधिकारिक रूप से रूपांतरित और क्वांटाइज़्ड मॉडल सीधे डाउनलोड और तैनात किया जा सकता है, और डेवलपर कंपाइल स्विच के माध्यम से एक क्लिक में हार्डवेयर त्वरण सक्षम कर सकते हैं।

मुख्य जानकारी

  • MNN इन्फरेंस इंजन ने Arm SME2 निर्देश सेट को गहराई से अनुकूलित किया है,जिससे Qwen3-VL-4B-Instruct…
  • और SME2 त्वरण डिफ़ॉल्ट रूप से सक्षम है। यह मॉडल 4B पैरामीटर वाला विज़न-लैंग्वेज मॉडल है,जो…
  • MNN द्वारा आधिकारिक रूप से रूपांतरित और क्वांटाइज़्ड मॉडल सीधे डाउनलोड और तैनात किया जा सकता है,और…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
公众号:通义实验室(千问)
श्रेणी
ट्यूटोरियल और टिप्स
AI स्कोर
79
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

这是一份硬核的端侧部署指南,实测数据让 Qwen3-VL 在 SME2 手机上 Prefill 提速超过 80%,做移动端 AI 的团队可以直接抄作业。

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: MNN ने SME2 को अनुकूलित कर Qwen3-VL-4B को डिवाइस पर रीयल-टाइम तर्क में सक्षम बनाया। 11 जून 2026। https://new.nat6.net/hi/news/cmqc6ibv400ktslt4e8zhjo27/

सभी देखें →