Hugging Face ने TensorFlow और XLA के साथ टेक्स्ट जनरेशन को गति दी, कुछ मामलों में 100 गुना तक तेज़
मूल शीर्षक:Faster Text Generation with TensorFlow and XLA
AI सारांश
Hugging Face ने घोषणा की है कि 🤗 transformers में TensorFlow टेक्स्ट जनरेशन को अब XLA कंपाइलर के माध्यम से गति दी जा सकती है। कुछ मामलों में यह 100 गुना से अधिक तेज़ है, और अधिकांश बेंचमार्क में यह PyTorch से 9 गुना तक अधिक तेज़ प्रदर्शन करता है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- Hugging Face 社区博客(混合发现)
- श्रेणी
- ट्यूटोरियल और टिप्स
- AI स्कोर
- 61
Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Hugging Face ने TensorFlow और XLA के साथ टेक्स्ट जनरेशन को गति दी, कुछ मामलों में 100 गुना तक तेज़। 27 जुलाई 2022। https://new.nat6.net/hi/news/my2h5oq9ycw1hh3rte2tkol51/