Produkte & Apps

Unsloth veröffentlicht quantisierte GGUF-Version von MiniMax-M3.1-Flash – 2-Bit-Variante läuft lokal mit 150 GB RAM

Originaltitel:MiniMax-M3.1-Flash can now run locally!

KI-Zusammenfassung

Unsloth hat quantisierte GGUF-Versionen von MiniMax-M3.1-Flash veröffentlicht. Die 2-Bit-Variante ist 45 % kleiner und behält 91,5 % der Top-1-Genauigkeit; sie läuft lokal mit 150 GB Arbeitsspeicher. Die 1-Bit-Variante erreicht etwa 89,9 %, die 4-Bit-Variante UD-Q4_K_XL 98,0 %. Der Autor bezeichnet das Modell als eines der stärksten Open-Source-Modelle seiner Größe und verlinkt Hugging-Face-Gewichte sowie eine Anleitung zum lokalen Betrieb.

Kernpunkte

  • Unsloth hat quantisierte GGUF-Versionen von MiniMax-M3.
  • 1-Flash veröffentlicht.
  • Die 2-Bit-Variante ist 45 % kleiner und behält 91,5 % der Top-1-Genauigkeit
  • sie läuft lokal mit 150 GB Arbeitsspeicher.
  • Die 1-Bit-Variante erreicht etwa 89,9 %,die 4-Bit-Variante UD-Q4_K_XL 98,0 %.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
X:Unsloth (@UnslothAI)
Kategorie
Produkte & Apps
Thema
ProduktupdatesOpen-Source-Ökosystem
KI-Bewertung
70
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

原文给出自建 GGUF 量化在保留精度与压缩体积间的实测数据,以及各档位所需内存,读者可据此判断能否本地部署。

Themen

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Unsloth veröffentlicht quantisierte GGUF-Version von MiniMax-M3.1-Flash – 2-Bit-Variante läuft lokal mit 150 GB RAM. 26. Oktober 2026. https://new.nat6.net/de/news/pkw262qrrom8w7qv6lq7nquxh/

Alle ansehen →