Productos y aplicaciones

cuLA: reescribir la atención lineal con CUDA

Resumen de IA

cuLA es una biblioteca de kernels CUDA de alto rendimiento para variantes de atención lineal como GLA y KDA. Mediante implementaciones en CuTe DSL y CUTLASS C++ optimizadas manualmente, se adapta profundamente a arquitecturas de GPU de nueva generación como NVIDIA Hopper y Blackwell, con el objetivo de convertir algoritmos complejos en operadores de alto rendimiento directamente invocables. Su interfaz es coherente con flash-linear-attention, por lo que los desarrolladores solo necesitan cambiar una línea de import para integrarla con bajo coste. Las pruebas de rendimiento muestran que sus kernels alcanzan una aceleración media de hasta 1,52 veces frente a la implementación de referencia en Triton en GPU Blackwell y Hopper. El proyecto es de código abierto y planea integrarse en el futuro en el mecanismo de programación unificado de FLA.

Puntos clave

  • cuLA es una biblioteca de kernels CUDA de alto rendimiento para variantes de atención lineal como…
  • Mediante implementaciones en CuTe DSL y CUTLASS C++ optimizadas manualmente,se adapta…
  • Su interfaz es coherente con flash-linear-attention,por lo que los desarrolladores solo necesitan…
  • Las pruebas de rendimiento muestran que sus kernels alcanzan una aceleración media de hasta 1,52…
  • El proyecto es de código abierto y planea integrarse en el futuro en el mecanismo de programación…

Resumen rápido

Publicado
Actualizado
Fuente
蚂蚁百灵:Developer Blog(网页)
Categoría
Productos y aplicaciones
Puntuación IA
66
Leer el original Leer el artículo completo en la fuente original
Por qué importa

蚂蚁百灵把线性注意力的 CUDA 内核做成了开箱即用的库,性能超过 Triton 基线,对于做长上下文推理优化的团队挺实用,但受众面比较窄。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: cuLA: reescribir la atención lineal con CUDA. 8. abril 2026. https://new.nat6.net/es/news/cmoecv1p6003qsl19n5usdt4x/

Ver todo →