Tutorial & Tips

Unsloth merilis panduan menjalankan versi kuantisasi GGUF GLM-5.3 secara lokal

Judul asli:GLM-5.3 can now be run locally! The 2-bit model retains ~81% accuracy after we shrunk it from 1.51T...

Ringkasan AI

Unsloth merilis versi kuantisasi GGUF dinamis GLM-5.3, dengan model 2-bit dikompresi dari 1,51TB menjadi 239GB (berkurang 83%) dan mempertahankan sekitar 81% akurasi top-1, sedangkan 1-bit mencapai sekitar 76% dengan pengurangan 85%.

Poin utama

  • Unsloth merilis versi kuantisasi GGUF dinamis GLM-5.
  • dengan model 2-bit dikompresi dari 1,51TB menjadi 239GB (berkurang 83%) dan mempertahankan sekitar…
  • sedangkan 1-bit mencapai sekitar 76% dengan pengurangan 85%.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
X:Unsloth (@UnslothAI)
Kategori
Tutorial & Tips
Skor AI
77
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文给出动态量化的精度与体积数据和不同位宽的硬件需求,读者可据此选择本地运行 GLM-5.3 的方案。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Unsloth merilis panduan menjalankan versi kuantisasi GGUF GLM-5.3 secara lokal. 29 Agustus 2026. https://new.nat6.net/id/news/cmtyjea9r0006ro10vqcz2b40/

Lihat semua →