cuLA: reescribir la atención lineal con CUDA
Resumen de IA
cuLA es una biblioteca de kernels CUDA de alto rendimiento para variantes de atención lineal como GLA y KDA. Mediante implementaciones en CuTe DSL y CUTLASS C++ optimizadas manualmente, se adapta profundamente a arquitecturas de GPU de nueva generación como NVIDIA Hopper y Blackwell, con el objetivo de convertir algoritmos complejos en operadores de alto rendimiento directamente invocables. Su interfaz es coherente con flash-linear-attention, por lo que los desarrolladores solo necesitan cambiar una línea de import para integrarla con bajo coste. Las pruebas de rendimiento muestran que sus kernels alcanzan una aceleración media de hasta 1,52 veces frente a la implementación de referencia en Triton en GPU Blackwell y Hopper. El proyecto es de código abierto y planea integrarse en el futuro en el mecanismo de programación unificado de FLA.
Puntos clave
- cuLA es una biblioteca de kernels CUDA de alto rendimiento para variantes de atención lineal como…
- Mediante implementaciones en CuTe DSL y CUTLASS C++ optimizadas manualmente,se adapta…
- Su interfaz es coherente con flash-linear-attention,por lo que los desarrolladores solo necesitan…
- Las pruebas de rendimiento muestran que sus kernels alcanzan una aceleración media de hasta 1,52…
- El proyecto es de código abierto y planea integrarse en el futuro en el mecanismo de programación…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- 蚂蚁百灵:Developer Blog(网页)
- Categoría
- Productos y aplicaciones
- Puntuación IA
- 66
蚂蚁百灵把线性注意力的 CUDA 内核做成了开箱即用的库,性能超过 Triton 基线,对于做长上下文推理优化的团队挺实用,但受众面比较窄。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: cuLA: reescribir la atención lineal con CUDA. 8. abril 2026. https://new.nat6.net/es/news/cmoecv1p6003qsl19n5usdt4x/