Productos y aplicaciones

Unsloth acelera 1,7 veces la inferencia local de Qwen3.8-Flash

Título original:Qwen3.8-Flash can now run 1.7× faster locally with MTP!⚡️ GGUFs can reach 170 tokens/s on a RTX PRO...

Resumen de IA

Unsloth acelera aproximadamente entre 1,3 y 1,7 veces la inferencia local de Qwen3.8-Flash-Next mediante MTP (Multi-Token Prediction) sin pérdida de precisión; el GGUF alcanza 170 tokens/s en una sola RTX PRO 6000 (100 tokens/s de referencia).

Puntos clave

  • Unsloth acelera aproximadamente entre 1,3 y 1,7 veces la inferencia local de Qwen3.
  • 8-Flash-Next mediante MTP (Multi-Token Prediction) sin pérdida de precisión
  • el GGUF alcanza 170 tokens/s en una sola RTX PRO 6000 (100 tokens/s de referencia).

Resumen rápido

Publicado
Actualizado
Fuente
X:Unsloth (@UnslothAI)
Categoría
Productos y aplicaciones
Puntuación IA
66
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文给出了 MTP 加速的具体倍数、显存门槛和各量化档位内存需求,读者可以据此判断自己的设备能否跑通。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Unsloth acelera 1,7 veces la inferencia local de Qwen3.8-Flash. 2. septiembre 2026. https://new.nat6.net/es/news/cmtyjea9r0005ro10eeudp015/

Ver todo →