Hugging Face erläutert die Integration von LLM.int8() 8-Bit-Quantisierung in transformers
Originaltitel:A Gentle Introduction to 8-bit Matrix Multiplication for transformers at scale using transformers, accelerate and bitsandbytes
KI-Zusammenfassung
Hugging Face hat in Zusammenarbeit mit bitsandbytes die 8-Bit-Matrixmultiplikation LLM.int8() vollständig in die Bibliotheken transformers und accelerate integriert. Dadurch halbiert sich der GPU-Speicherbedarf bei der Inferenz großer Modelle wie BLOOM-176B ohne Leistungseinbußen.
Kernpunkte
- Hugging Face hat in Zusammenarbeit mit bitsandbytes die 8-Bit-Matrixmultiplikation LLM.
- int8 vollständig in die Bibliotheken transformers und accelerate integriert.
- Dadurch halbiert sich der GPU-Speicherbedarf bei der Inferenz großer Modelle wie BLOOM-176B ohne…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- Hugging Face 社区博客(混合发现)
- Kategorie
- Tutorials & Tipps
- KI-Bewertung
- 79
文章由集成团队亲自讲解 LLM.int8() 的原理、异常值处理和 transformers 集成细节,并附基准数据与代码示例。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Hugging Face erläutert die Integration von LLM.int8() 8-Bit-Quantisierung in transformers. 17. August 2022. https://new.nat6.net/de/news/cvasrthz1q3ab3rto0poz5wsb/