Hugging Face accélère la génération de texte avec TensorFlow et XLA, jusqu'à plus de 100 fois dans certains cas
Titre original:Faster Text Generation with TensorFlow and XLA
Résumé IA
Hugging Face annonce que la génération de texte TensorFlow de 🤗 transformers peut désormais être accélérée par compilation XLA, avec des gains de plus de 100 fois dans certains cas et des performances supérieures à PyTorch dans la plupart des benchmarks, jusqu'à 9 fois plus rapide.
Points clés
- Hugging Face annonce que la génération de texte TensorFlow de 🤗 transformers peut désormais être…
- avec des gains de plus de 100 fois dans certains cas et des performances supérieures à PyTorch…
- jusqu'à 9 fois plus rapide.
En bref
- Publié
- Mis à jour
- Source
- Hugging Face 社区博客(混合发现)
- Catégorie
- Tutoriels et astuces
- Score IA
- 61
Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Hugging Face accélère la génération de texte avec TensorFlow et XLA, jusqu'à plus de 100 fois dans certains cas. 27. juillet 2022. https://new.nat6.net/fr/news/my2h5oq9ycw1hh3rte2tkol51/