Unsloth veröffentlicht quantisierte GGUF-Version von MiniMax-M3.1-Flash – 2-Bit-Variante läuft lokal mit 150 GB RAM
Originaltitel:MiniMax-M3.1-Flash can now run locally!
KI-Zusammenfassung
Unsloth hat quantisierte GGUF-Versionen von MiniMax-M3.1-Flash veröffentlicht. Die 2-Bit-Variante ist 45 % kleiner und behält 91,5 % der Top-1-Genauigkeit; sie läuft lokal mit 150 GB Arbeitsspeicher. Die 1-Bit-Variante erreicht etwa 89,9 %, die 4-Bit-Variante UD-Q4_K_XL 98,0 %. Der Autor bezeichnet das Modell als eines der stärksten Open-Source-Modelle seiner Größe und verlinkt Hugging-Face-Gewichte sowie eine Anleitung zum lokalen Betrieb.
Kernpunkte
- Unsloth hat quantisierte GGUF-Versionen von MiniMax-M3.
- 1-Flash veröffentlicht.
- Die 2-Bit-Variante ist 45 % kleiner und behält 91,5 % der Top-1-Genauigkeit
- sie läuft lokal mit 150 GB Arbeitsspeicher.
- Die 1-Bit-Variante erreicht etwa 89,9 %,die 4-Bit-Variante UD-Q4_K_XL 98,0 %.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- X:Unsloth (@UnslothAI)
- Kategorie
- Produkte & Apps
- KI-Bewertung
- 70
原文给出自建 GGUF 量化在保留精度与压缩体积间的实测数据,以及各档位所需内存,读者可据此判断能否本地部署。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Unsloth veröffentlicht quantisierte GGUF-Version von MiniMax-M3.1-Flash – 2-Bit-Variante läuft lokal mit 150 GB RAM. 26. Oktober 2026. https://new.nat6.net/de/news/pkw262qrrom8w7qv6lq7nquxh/