Tutorial & Tips

Hugging Face Percepat Generasi Teks dengan TensorFlow dan XLA, Sebagian Skenario Lebih dari 100 Kali

Judul asli:Faster Text Generation with TensorFlow and XLA

Ringkasan AI

Hugging Face mengumumkan bahwa generasi teks TensorFlow pada 🤗 transformers kini dapat dipercepat melalui kompilasi XLA, dengan peningkatan kecepatan lebih dari 100 kali pada sebagian skenario, dan lebih cepat daripada PyTorch pada sebagian besar tolok ukur, hingga 9 kali.

Poin utama

  • Hugging Face mengumumkan bahwa generasi teks TensorFlow pada 🤗 transformers kini dapat dipercepat…
  • dengan peningkatan kecepatan lebih dari 100 kali pada sebagian skenario
  • dan lebih cepat daripada PyTorch pada sebagian besar tolok ukur,hingga 9 kali.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Hugging Face 社区博客(混合发现)
Kategori
Tutorial & Tips
Skor AI
61
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Hugging Face Percepat Generasi Teks dengan TensorFlow dan XLA, Sebagian Skenario Lebih dari 100 Kali. 27 Juli 2022. https://new.nat6.net/id/news/my2h5oq9ycw1hh3rte2tkol51/

Lihat semua →