Makmal Tongyi terangkan cara menggunakan Arm SME2 dan MNN untuk mempercepatkan Qwen3-VL pada telefon
Tajuk asal:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞
Ringkasan AI
Makmal Tongyi menggunakan set arahan Arm SME2 dan enjin penaakulan MNN untuk merealisasikan penaakulan masa nyata Qwen3-VL-4B-Instruct pada telefon perdana yang menyokong SME2. Ujian sebenar selepas mengaktifkan SME2 menunjukkan fasa Prefill dipercepatkan 81%, fasa Decode meningkat 13%. Sokongan SME2 MNN menggunakan reka bentuk terbina semasa kompilasi dan pengesanan automatik semasa runtime, pembangun tidak perlu konfigurasi manual.
Maklumat penting
- Makmal Tongyi menggunakan set arahan Arm SME2 dan enjin penaakulan MNN untuk merealisasikan…
- Ujian sebenar selepas mengaktifkan SME2 menunjukkan fasa Prefill dipercepatkan 81%,fasa Decode…
- Sokongan SME2 MNN menggunakan reka bentuk terbina semasa kompilasi dan pengesanan automatik semasa…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- 公众号:通义实验室(千问)
- Kategori
- Tutorial dan petua
- Skor AI
- 72
将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Makmal Tongyi terangkan cara menggunakan Arm SME2 dan MNN untuk mempercepatkan Qwen3-VL pada telefon. 11 Jun 2026. https://new.nat6.net/ms/news/cmsdu3gxy0151rofz26y1o8vi/