Hugging Face acelera la generación de texto con TensorFlow y XLA y logra más de 100 veces más velocidad en algunos casos
Título original:Faster Text Generation with TensorFlow and XLA
Resumen de IA
Hugging Face anuncia que la generación de texto de 🤗 transformers con TensorFlow ahora puede acelerarse mediante compilación XLA, con incrementos de velocidad superiores a 100 veces en algunos casos y más rápido que PyTorch en la mayoría de los benchmarks, hasta 9 veces.
Puntos clave
- Hugging Face anuncia que la generación de texto de 🤗 transformers con TensorFlow ahora puede…
- con incrementos de velocidad superiores a 100 veces en algunos casos y más rápido que PyTorch en…
- hasta 9 veces.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- Hugging Face 社区博客(混合发现)
- Categoría
- Tutoriales y consejos
- Puntuación IA
- 61
Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Hugging Face acelera la generación de texto con TensorFlow y XLA y logra más de 100 veces más velocidad en algunos casos. 27. julio 2022. https://new.nat6.net/es/news/my2h5oq9ycw1hh3rte2tkol51/