Tutorial dan petua

Makmal Tongyi terangkan cara menggunakan Arm SME2 dan MNN untuk mempercepatkan Qwen3-VL pada telefon

Tajuk asal:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞

Ringkasan AI

Makmal Tongyi menggunakan set arahan Arm SME2 dan enjin penaakulan MNN untuk merealisasikan penaakulan masa nyata Qwen3-VL-4B-Instruct pada telefon perdana yang menyokong SME2. Ujian sebenar selepas mengaktifkan SME2 menunjukkan fasa Prefill dipercepatkan 81%, fasa Decode meningkat 13%. Sokongan SME2 MNN menggunakan reka bentuk terbina semasa kompilasi dan pengesanan automatik semasa runtime, pembangun tidak perlu konfigurasi manual.

Maklumat penting

  • Makmal Tongyi menggunakan set arahan Arm SME2 dan enjin penaakulan MNN untuk merealisasikan…
  • Ujian sebenar selepas mengaktifkan SME2 menunjukkan fasa Prefill dipercepatkan 81%,fasa Decode…
  • Sokongan SME2 MNN menggunakan reka bentuk terbina semasa kompilasi dan pengesanan automatik semasa…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
公众号:通义实验室(千问)
Kategori
Tutorial dan petua
Skor AI
72
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Makmal Tongyi terangkan cara menggunakan Arm SME2 dan MNN untuk mempercepatkan Qwen3-VL pada telefon. 11 Jun 2026. https://new.nat6.net/ms/news/cmsdu3gxy0151rofz26y1o8vi/

Lihat Semua →