El Laboratorio Tongyi explica cómo usar Arm SME2 y MNN para acelerar Qwen3-VL en el móvil
Título original:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞
Resumen de IA
El Laboratorio Tongyi utiliza el conjunto de instrucciones Arm SME2 y el motor de inferencia MNN para lograr la inferencia en tiempo real de Qwen3-VL-4B-Instruct en teléfonos insignia compatibles con SME2. En pruebas reales, tras activar SME2, la fase Prefill se acelera un 81 % y la fase Decode un 13 %. El soporte de SME2 en MNN adopta un diseño de integración en tiempo de compilación y detección automática en tiempo de ejecución, sin necesidad de configuración manual por parte de los desarrolladores.
Puntos clave
- El Laboratorio Tongyi utiliza el conjunto de instrucciones Arm SME2 y el motor de inferencia MNN…
- En pruebas reales,tras activar SME2,la fase Prefill se acelera un 81 % y la fase Decode un 13 %.
- El soporte de SME2 en MNN adopta un diseño de integración en tiempo de compilación y detección…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- 公众号:通义实验室(千问)
- Categoría
- Tutoriales y consejos
- Puntuación IA
- 72
将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: El Laboratorio Tongyi explica cómo usar Arm SME2 y MNN para acelerar Qwen3-VL en el móvil. 11. junio 2026. https://new.nat6.net/es/news/cmsdu3gxy0151rofz26y1o8vi/