cuLA : réécrire l'attention linéaire avec CUDA
Résumé IA
cuLA est une bibliothèque de kernels CUDA hautes performances destinée aux variantes d'attention linéaire telles que GLA et KDA. Implémentée via un DSL CuTe optimisé manuellement et CUTLASS en C++, elle est profondément adaptée aux nouvelles architectures GPU NVIDIA Hopper et Blackwell, visant à transformer des algorithmes complexes en opérateurs hautes performances directement appelables. Son interface reste cohérente avec flash-linear-attention : les développeurs n'ont qu'à modifier une ligne d'import pour l'intégrer à faible coût. Les tests de performance montrent que ses kernels atteignent, sur GPU Blackwell et Hopper, un gain moyen allant jusqu'à 1,52 fois par rapport à l'implémentation de référence Triton. Le projet est open source et prévoit une intégration future au mécanisme de planification unifié de FLA.
Points clés
- cuLA est une bibliothèque de kernels CUDA hautes performances destinée aux variantes d'attention…
- Implémentée via un DSL CuTe optimisé manuellement et CUTLASS en C++,elle est profondément adaptée…
- Son interface reste cohérente avec flash-linear-attention: les développeurs n'ont qu'à modifier…
- Les tests de performance montrent que ses kernels atteignent,sur GPU Blackwell et Hopper,un gain…
- Le projet est open source et prévoit une intégration future au mécanisme de planification unifié…
En bref
- Publié
- Mis à jour
- Source
- 蚂蚁百灵:Developer Blog(网页)
- Catégorie
- Produits et applications
- Score IA
- 66
蚂蚁百灵把线性注意力的 CUDA 内核做成了开箱即用的库,性能超过 Triton 基线,对于做长上下文推理优化的团队挺实用,但受众面比较窄。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : cuLA : réécrire l'attention linéaire avec CUDA. 8. avril 2026. https://new.nat6.net/fr/news/cmoecv1p6003qsl19n5usdt4x/