Tongyi Lab ने बताया कि कैसे Arm SME2 और MNN का उपयोग करके Qwen3-VL को मोबाइल डिवाइस पर गति दी जाए
मूल शीर्षक:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞
AI सारांश
Tongyi Lab ने Arm SME2 इंस्ट्रक्शन सेट और MNN इन्फ्रेंस इंजन का उपयोग करके SME2-सपोर्टेड फ्लैगशिप फोन पर Qwen3-VL-4B-Instruct का रियल-टाइम इन्फ्रेंस हासिल किया है। परीक्षण में SME2 सक्षम करने के बाद, Prefill चरण में 81% और Decode चरण में 13% की गति में वृद्धि देखी गई। MNN का SME2 सपोर्ट कंपाइल-टाइम इनबिल्ट और रन-टाइम ऑटो-डिटेक्शन डिज़ाइन अपनाता है, जिससे डेवलपर्स को मैन्युअल कॉन्फ़िगरेशन की आवश्यकता नहीं होती है।
मुख्य जानकारी
- Tongyi Lab ने Arm SME2 इंस्ट्रक्शन सेट और MNN इन्फ्रेंस इंजन का उपयोग करके SME2-सपोर्टेड फ्लैगशिप…
- Prefill चरण में 81% और Decode चरण में 13% की गति में वृद्धि देखी गई। MNN का SME2 सपोर्ट…
- जिससे डेवलपर्स को मैन्युअल कॉन्फ़िगरेशन की आवश्यकता नहीं होती है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- 公众号:通义实验室(千问)
- श्रेणी
- ट्यूटोरियल और टिप्स
- AI स्कोर
- 72
将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Tongyi Lab ने बताया कि कैसे Arm SME2 और MNN का उपयोग करके Qwen3-VL को मोबाइल डिवाइस पर गति दी जाए। 11 जून 2026। https://new.nat6.net/hi/news/cmsdu3gxy0151rofz26y1o8vi/