Tutoriales y consejos

Hugging Face acelera la generación de texto con TensorFlow y XLA y logra más de 100 veces más velocidad en algunos casos

Título original:Faster Text Generation with TensorFlow and XLA

Resumen de IA

Hugging Face anuncia que la generación de texto de 🤗 transformers con TensorFlow ahora puede acelerarse mediante compilación XLA, con incrementos de velocidad superiores a 100 veces en algunos casos y más rápido que PyTorch en la mayoría de los benchmarks, hasta 9 veces.

Puntos clave

  • Hugging Face anuncia que la generación de texto de 🤗 transformers con TensorFlow ahora puede…
  • con incrementos de velocidad superiores a 100 veces en algunos casos y más rápido que PyTorch en…
  • hasta 9 veces.

Resumen rápido

Publicado
Actualizado
Fuente
Hugging Face 社区博客(混合发现)
Categoría
Tutoriales y consejos
Puntuación IA
61
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Hugging Face acelera la generación de texto con TensorFlow y XLA y logra más de 100 veces más velocidad en algunos casos. 27. julio 2022. https://new.nat6.net/es/news/my2h5oq9ycw1hh3rte2tkol51/

Ver todo →