Produits et applications

cuLA : réécrire l'attention linéaire avec CUDA

Résumé IA

cuLA est une bibliothèque de kernels CUDA hautes performances destinée aux variantes d'attention linéaire telles que GLA et KDA. Implémentée via un DSL CuTe optimisé manuellement et CUTLASS en C++, elle est profondément adaptée aux nouvelles architectures GPU NVIDIA Hopper et Blackwell, visant à transformer des algorithmes complexes en opérateurs hautes performances directement appelables. Son interface reste cohérente avec flash-linear-attention : les développeurs n'ont qu'à modifier une ligne d'import pour l'intégrer à faible coût. Les tests de performance montrent que ses kernels atteignent, sur GPU Blackwell et Hopper, un gain moyen allant jusqu'à 1,52 fois par rapport à l'implémentation de référence Triton. Le projet est open source et prévoit une intégration future au mécanisme de planification unifié de FLA.

Points clés

  • cuLA est une bibliothèque de kernels CUDA hautes performances destinée aux variantes d'attention…
  • Implémentée via un DSL CuTe optimisé manuellement et CUTLASS en C++,elle est profondément adaptée…
  • Son interface reste cohérente avec flash-linear-attention: les développeurs n'ont qu'à modifier…
  • Les tests de performance montrent que ses kernels atteignent,sur GPU Blackwell et Hopper,un gain…
  • Le projet est open source et prévoit une intégration future au mécanisme de planification unifié…

En bref

Publié
Mis à jour
Source
蚂蚁百灵:Developer Blog(网页)
Catégorie
Produits et applications
Score IA
66
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

蚂蚁百灵把线性注意力的 CUDA 内核做成了开箱即用的库,性能超过 Triton 基线,对于做长上下文推理优化的团队挺实用,但受众面比较窄。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : cuLA : réécrire l'attention linéaire avec CUDA. 8. avril 2026. https://new.nat6.net/fr/news/cmoecv1p6003qsl19n5usdt4x/

Tout voir →