Tutoriales y consejos

El Laboratorio Tongyi explica cómo usar Arm SME2 y MNN para acelerar Qwen3-VL en el móvil

Título original:端侧 AI 提速 80%?如何让 Qwen3-VL 在手机起飞

Resumen de IA

El Laboratorio Tongyi utiliza el conjunto de instrucciones Arm SME2 y el motor de inferencia MNN para lograr la inferencia en tiempo real de Qwen3-VL-4B-Instruct en teléfonos insignia compatibles con SME2. En pruebas reales, tras activar SME2, la fase Prefill se acelera un 81 % y la fase Decode un 13 %. El soporte de SME2 en MNN adopta un diseño de integración en tiempo de compilación y detección automática en tiempo de ejecución, sin necesidad de configuración manual por parte de los desarrolladores.

Puntos clave

  • El Laboratorio Tongyi utiliza el conjunto de instrucciones Arm SME2 y el motor de inferencia MNN…
  • En pruebas reales,tras activar SME2,la fase Prefill se acelera un 81 % y la fase Decode un 13 %.
  • El soporte de SME2 en MNN adopta un diseño de integración en tiempo de compilación y detección…

Resumen rápido

Publicado
Actualizado
Fuente
公众号:通义实验室(千问)
Categoría
Tutoriales y consejos
Puntuación IA
72
Leer el original Leer el artículo completo en la fuente original
Por qué importa

将 SME2 加速拆解为从引擎编译到 APP 构建的完整流程,并给出 prefill 阶段 81% 提升的实测参考,为端侧多模态部署提供了可量化的工程路径。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: El Laboratorio Tongyi explica cómo usar Arm SME2 y MNN para acelerar Qwen3-VL en el móvil. 11. junio 2026. https://new.nat6.net/es/news/cmsdu3gxy0151rofz26y1o8vi/

Ver todo →