Tutoriels et astuces

Hugging Face accélère la génération de texte avec TensorFlow et XLA, jusqu'à plus de 100 fois dans certains cas

Titre original:Faster Text Generation with TensorFlow and XLA

Résumé IA

Hugging Face annonce que la génération de texte TensorFlow de 🤗 transformers peut désormais être accélérée par compilation XLA, avec des gains de plus de 100 fois dans certains cas et des performances supérieures à PyTorch dans la plupart des benchmarks, jusqu'à 9 fois plus rapide.

Points clés

  • Hugging Face annonce que la génération de texte TensorFlow de 🤗 transformers peut désormais être…
  • avec des gains de plus de 100 fois dans certains cas et des performances supérieures à PyTorch…
  • jusqu'à 9 fois plus rapide.

En bref

Publié
Mis à jour
Source
Hugging Face 社区博客(混合发现)
Catégorie
Tutoriels et astuces
Score IA
61
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Hugging Face accélère la génération de texte avec TensorFlow et XLA, jusqu'à plus de 100 fois dans certains cas. 27. juillet 2022. https://new.nat6.net/fr/news/my2h5oq9ycw1hh3rte2tkol51/

Tout voir →