Unsloth lancar GGUF terkuant MiniMax-M3.1-Flash, versi 2-bit boleh dijalankan setempat dengan 150GB RAM
Tajuk asal:MiniMax-M3.1-Flash can now run locally!
Ringkasan AI
Unsloth melancarkan GGUF terkuant MiniMax-M3.1-Flash; versi 2-bit mengurangkan saiz sebanyak 45% sambil mengekalkan 91.5% ketepatan top 1, boleh dijalankan setempat dengan 150GB RAM, versi 1-bit sekitar 89.9%, manakala 4-bit UD-Q4_K_XL mencapai 98.0%. Penulis menyifatkannya sebagai salah satu model sumber terbuka terkuat dalam saiz sama, serta menyertakan pautan pemberat Hugging Face dan panduan menjalankan secara setempat.
Maklumat penting
- Unsloth melancarkan GGUF terkuant MiniMax-M3.
- 1-Flash
- versi 2-bit mengurangkan saiz sebanyak 45% sambil mengekalkan 91.
- 5% ketepatan top 1,boleh dijalankan setempat dengan 150GB RAM,versi 1-bit sekitar 89.
- 9%,manakala 4-bit UD-Q4_K_XL mencapai 98.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- X:Unsloth (@UnslothAI)
- Kategori
- Produk & Aplikasi
- Skor AI
- 70
原文给出自建 GGUF 量化在保留精度与压缩体积间的实测数据,以及各档位所需内存,读者可据此判断能否本地部署。
Topik berkaitan
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Unsloth lancar GGUF terkuant MiniMax-M3.1-Flash, versi 2-bit boleh dijalankan setempat dengan 150GB RAM. 26 Oktober 2026. https://new.nat6.net/ms/news/pkw262qrrom8w7qv6lq7nquxh/