Produk & Aplikasi

Unsloth lancar GGUF terkuant MiniMax-M3.1-Flash, versi 2-bit boleh dijalankan setempat dengan 150GB RAM

Tajuk asal:MiniMax-M3.1-Flash can now run locally!

Ringkasan AI

Unsloth melancarkan GGUF terkuant MiniMax-M3.1-Flash; versi 2-bit mengurangkan saiz sebanyak 45% sambil mengekalkan 91.5% ketepatan top 1, boleh dijalankan setempat dengan 150GB RAM, versi 1-bit sekitar 89.9%, manakala 4-bit UD-Q4_K_XL mencapai 98.0%. Penulis menyifatkannya sebagai salah satu model sumber terbuka terkuat dalam saiz sama, serta menyertakan pautan pemberat Hugging Face dan panduan menjalankan secara setempat.

Maklumat penting

  • Unsloth melancarkan GGUF terkuant MiniMax-M3.
  • 1-Flash
  • versi 2-bit mengurangkan saiz sebanyak 45% sambil mengekalkan 91.
  • 5% ketepatan top 1,boleh dijalankan setempat dengan 150GB RAM,versi 1-bit sekitar 89.
  • 9%,manakala 4-bit UD-Q4_K_XL mencapai 98.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
X:Unsloth (@UnslothAI)
Kategori
Produk & Aplikasi
Topik
Kemas kini produkEkosistem sumber terbuka
Skor AI
70
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

原文给出自建 GGUF 量化在保留精度与压缩体积间的实测数据,以及各档位所需内存,读者可据此判断能否本地部署。

Topik berkaitan

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Unsloth lancar GGUF terkuant MiniMax-M3.1-Flash, versi 2-bit boleh dijalankan setempat dengan 150GB RAM. 26 Oktober 2026. https://new.nat6.net/ms/news/pkw262qrrom8w7qv6lq7nquxh/

Lihat Semua →