FlashQLA : un noyau d'attention linéaire haute performance construit sur TileLang
Titre original:🚀 Introducing FlashQLA: high-performance linear attention kernels built on TileLang. ⚡ 2–3× forwar...
Résumé IA
FlashQLA est un noyau d'attention linéaire haute performance construit sur TileLang, conçu pour l'IA agentique sur les appareils personnels. Ses innovations clés incluent la parallélisation automatique du calcul sur puce pilotée par le gating, une refonte algébrique adaptée au matériel et des noyaux Warp spécialisés fusionnés par TileLang ; en améliorant l'utilisation des processeurs de flux, il accélère de 2 à 3 fois la propagation avant et de 2 fois la rétropropagation. La technologie est particulièrement efficace sur les petits modèles, les charges à long contexte et le parallélisme tensoriel ; bien que la surcharge d'E/S mémoire soit légèrement plus élevée lors du traitement de grands lots, les performances réelles sont meilleures sur les appareils en périphérie et dans les scénarios à long contexte. La rétropropagation atteint une accélération au niveau du noyau grâce à un pipeline Warp spécialisé à 16 étages sous contrainte stricte de mémoire sur puce. Les ressources sont open source.
Points clés
- FlashQLA est un noyau d'attention linéaire haute performance construit sur TileLang,conçu pour…
- Ses innovations clés incluent la parallélisation automatique du calcul sur puce pilotée par le…
- en améliorant l'utilisation des processeurs de flux,il accélère de 2 à 3 fois la propagation avant…
- La technologie est particulièrement efficace sur les petits modèles,les charges à long contexte et…
- bien que la surcharge d'E/S mémoire soit légèrement plus élevée lors du traitement de grands…
En bref
- Publié
- Mis à jour
- Catégorie
- Produits et applications
- Score IA
- 60
2 倍加速的背后是 Warp 特化流水线和自动 Copy 策略,像给手机 GPU 开了条专用跑道,做端侧 Agent 的可以直接拉代码试试。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : FlashQLA : un noyau d'attention linéaire haute performance construit sur TileLang. 29. avril 2026. https://new.nat6.net/fr/news/cmok1dwzq018nslz3bcc08gwr/