Artículos e investigación

Fast, faster, Qwen. 🚀

Título original:Fast, faster, Qwen. 🚀 Thrilled to see Qwen3.5 reaching a record-breaking 580 tps for agentic workl...

Resumen de IA

Qwen3.5 alcanzó una velocidad récord de 580 tokens per second (tps) en el motor de inferencia TokenSpeed para cargas de trabajo de agentes. Este logro fue posible gracias al equipo de inferencia de Qwen, el equipo de TokenSpeed de lightseekorg Foundation, NVIDIA y el equipo de Mooncake, y empleó la optimización FlashAttention-4 (FA4) de tri_dao. Este hito marca un avance en los límites del rendimiento de inferencia de los grandes modelos de lenguaje de código abierto; los detalles pueden consultarse en el blog de la comunidad de PyTorch.

Puntos clave

  • 5 alcanzó una velocidad récord de 580 tokens per second (tps) en el motor de inferencia TokenSpeed…
  • Este logro fue posible gracias al equipo de inferencia de Qwen,el equipo de TokenSpeed de…
  • Este hito marca un avance en los límites del rendimiento de inferencia de los grandes modelos de…
  • los detalles pueden consultarse en el blog de la comunidad de PyTorch.

Resumen rápido

Publicado
Actualizado
Fuente
X:通义千问 / Qwen (@Alibaba_Qwen)
Categoría
Artículos e investigación
Puntuación IA
69
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Qwen3.5在TokenSpeed上跑出580 tps,这是开源LLM推理的极限突破,对agent类应用是实实在在的性能跃进,PyTorch这篇博客值得每一个做推理部署的细读。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Fast, faster, Qwen. 🚀. 28. mayo 2026. https://new.nat6.net/es/news/cmpobap4x04leslv4yn3zhvqo/

Ver todo →