Tutorial dan petua

Hugging Face hurai integrasi dan penggunaan kuantisasi 8-bit LLM.int8() dalam transformers

Tajuk asal:A Gentle Introduction to 8-bit Matrix Multiplication for transformers at scale using transformers, accelerate and bitsandbytes

Ringkasan AI

Hugging Face bekerjasama dengan bitsandbytes untuk menyepadukan sepenuhnya pendaraban matriks 8-bit LLM.int8() ke dalam pustaka transformers dan accelerate, menjadikan penggunaan memori GPU untuk penaakulan model besar seperti BLOOM-176B berkurang separuh tanpa penurunan prestasi.

Maklumat penting

  • Hugging Face bekerjasama dengan bitsandbytes untuk menyepadukan sepenuhnya pendaraban matriks…
  • int8 ke dalam pustaka transformers dan accelerate
  • menjadikan penggunaan memori GPU untuk penaakulan model besar seperti BLOOM-176B berkurang separuh…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Hugging Face 社区博客(混合发现)
Kategori
Tutorial dan petua
Skor AI
79
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

文章由集成团队亲自讲解 LLM.int8() 的原理、异常值处理和 transformers 集成细节,并附基准数据与代码示例。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Hugging Face hurai integrasi dan penggunaan kuantisasi 8-bit LLM.int8() dalam transformers. 17 Ogos 2022. https://new.nat6.net/ms/news/cvasrthz1q3ab3rto0poz5wsb/

Lihat Semua →