ट्यूटोरियल और टिप्स

Tongyi Lab ने बताया कि कैसे Arm SME2 और MNN का उपयोग करके Qwen3-VL को मोबाइल डिवाइस पर गति दी जाए

मूल शीर्षक:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞

AI सारांश

Tongyi Lab ने Arm SME2 इंस्ट्रक्शन सेट और MNN इन्फ्रेंस इंजन का उपयोग करके SME2-सपोर्टेड फ्लैगशिप फोन पर Qwen3-VL-4B-Instruct का रियल-टाइम इन्फ्रेंस हासिल किया है। परीक्षण में SME2 सक्षम करने के बाद, Prefill चरण में 81% और Decode चरण में 13% की गति में वृद्धि देखी गई। MNN का SME2 सपोर्ट कंपाइल-टाइम इनबिल्ट और रन-टाइम ऑटो-डिटेक्शन डिज़ाइन अपनाता है, जिससे डेवलपर्स को मैन्युअल कॉन्फ़िगरेशन की आवश्यकता नहीं होती है।

मुख्य जानकारी

  • Tongyi Lab ने Arm SME2 इंस्ट्रक्शन सेट और MNN इन्फ्रेंस इंजन का उपयोग करके SME2-सपोर्टेड फ्लैगशिप…
  • Prefill चरण में 81% और Decode चरण में 13% की गति में वृद्धि देखी गई। MNN का SME2 सपोर्ट…
  • जिससे डेवलपर्स को मैन्युअल कॉन्फ़िगरेशन की आवश्यकता नहीं होती है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
公众号:通义实验室(千问)
श्रेणी
ट्यूटोरियल और टिप्स
AI स्कोर
72
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Tongyi Lab ने बताया कि कैसे Arm SME2 और MNN का उपयोग करके Qwen3-VL को मोबाइल डिवाइस पर गति दी जाए। 11 जून 2026। https://new.nat6.net/hi/news/cmsdu3gxy0151rofz26y1o8vi/

सभी देखें →