Mga Tutorial at Tip

Ipinaliwanag ng Tongyi Lab kung paano pinapabilis ng Arm SME2 at MNN ang Qwen3-VL sa mobile

Orihinal na pamagat:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞

AI summary

Ginamit ng Tongyi Lab ang Arm SME2 instruction set at MNN inference engine para makamit ang real-time inference ng Qwen3-VL-4B-Instruct sa mga flagship phone na sumusuporta sa SME2. Sa aktwal na pagsukat, nang ma-enable ang SME2, bumilis ang Prefill stage nang 81% at ang Decode stage nang 13%. Ang suporta ng MNN sa SME2 ay gumagamit ng compile-time built-in at runtime automatic detection na disenyo, kaya hindi na kailangan ng manu-manong configuration ng developer.

Mahahalagang impormasyon

  • Ginamit ng Tongyi Lab ang Arm SME2 instruction set at MNN inference engine para makamit ang…
  • Sa aktwal na pagsukat,nang ma-enable ang SME2,bumilis ang Prefill stage nang 81% at ang Decode…
  • Ang suporta ng MNN sa SME2 ay gumagamit ng compile-time built-in at runtime automatic detection na…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
公众号:通义实验室(千问)
Kategorya
Mga Tutorial at Tip
AI na marka
72
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Ipinaliwanag ng Tongyi Lab kung paano pinapabilis ng Arm SME2 at MNN ang Qwen3-VL sa mobile. 11 Hunyo 2026. https://new.nat6.net/fil/news/cmsdu3gxy0151rofz26y1o8vi/

Tingnan lahat →