Tutorial dan petua

Unsloth terbitkan panduan menjalankan versi kuantisasi GGUF GLM-5.3 secara tempatan

Tajuk asal:GLM-5.3 can now be run locally! The 2-bit model retains ~81% accuracy after we shrunk it from 1.51T...

Ringkasan AI

Unsloth menerbitkan versi kuantisasi GGUF dinamik GLM-5.3, dengan model 2-bit dimampatkan daripada 1.51TB kepada 239GB (pengurangan 83%), mengekalkan kira-kira 81% ketepatan top-1, manakala 1-bit mencapai kira-kira 76% dengan pengurangan 85%.

Maklumat penting

  • Unsloth menerbitkan versi kuantisasi GGUF dinamik GLM-5.
  • 3,dengan model 2-bit dimampatkan daripada 1.
  • 51TB kepada 239GB (pengurangan 83%),mengekalkan kira-kira 81% ketepatan top-1,manakala 1-bit…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
X:Unsloth (@UnslothAI)
Kategori
Tutorial dan petua
Skor AI
77
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

原文给出动态量化的精度与体积数据和不同位宽的硬件需求,读者可据此选择本地运行 GLM-5.3 的方案。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Unsloth terbitkan panduan menjalankan versi kuantisasi GGUF GLM-5.3 secara tempatan. 29 Ogos 2026. https://new.nat6.net/ms/news/cmtyjea9r0006ro10vqcz2b40/

Lihat Semua →