Artículos e investigación

HYPIC: Xiaohongshu, junto con la Universidad de Pekín y la Universidad Jiao Tong de Shanghái, presenta el primer sistema de caché independiente de la posición para grandes modelos de atención híbrida

Título original:首 token 延迟降 3.25 倍!小红书联合北大、上交提出 HYPIC,让混合注意力大模型用上「位置无关缓存」

Resumen de IA

HYPIC logra una caché independiente de la posición en grandes modelos de atención híbrida y reduce la latencia del primer token en 3,25 veces de media. En 4 modelos de nivel de producción, el QPS sostenible aumenta 1,66 veces con el mismo SLO, y la calidad de las tareas solo difiere en 1,71 puntos respecto al recálculo completo.

Puntos clave

  • HYPIC logra una caché independiente de la posición en grandes modelos de atención híbrida y reduce…
  • En 4 modelos de nivel de producción,el QPS sostenible aumenta 1,66 veces con el mismo SLO
  • y la calidad de las tareas solo difiere en 1,71 puntos respecto al recálculo completo.

Resumen rápido

Publicado
Actualizado
Fuente
公众号:小红书技术(dots.llm)
Categoría
Artículos e investigación
Puntuación IA
77
Leer el original Leer el artículo completo en la fuente original
Por qué importa

混合注意力模型终于有了可用的位置无关缓存方案,HYPIC 用转移算子缓存和缝合窗口解决了长期兼容难题,对长上下文推理服务的加速意义重大,做推理 infra 的团队可以马上看论文和代码。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: HYPIC: Xiaohongshu, junto con la Universidad de Pekín y la Universidad Jiao Tong de Shanghái, presenta el primer sistema de caché independiente de la posición para grandes modelos de atención híbrida. 16. julio 2026. https://new.nat6.net/es/news/cmrnclu0101cgbic6rpcgkw8s/

Ver todo →