Unsloth veröffentlicht dynamische GGUF-Quantisierung von Qwen3.8-27B für lokalen Betrieb mit 17 GB Arbeitsspeicher
Originaltitel:Qwen3.8-27B can now be run locally! ✨ Run on 17GB RAM via Unsloth Dynamic GGUFs. Qwen3.8-27B is by...
KI-Zusammenfassung
Unsloth veröffentlicht eine dynamische GGUF-Quantisierung von Qwen3.8-27B. Die 4-Bit-Quantisierung läuft lokal auf Geräten mit 17–19 GB Arbeitsspeicher; zusätzlich wird eine NVFP4-Quantisierung bereitgestellt.
Kernpunkte
- Unsloth veröffentlicht eine dynamische GGUF-Quantisierung von Qwen3.
- Die 4-Bit-Quantisierung läuft lokal auf Geräten mit 17–19 GB Arbeitsspeicher
- zusätzlich wird eine NVFP4-Quantisierung bereitgestellt.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- X:Unsloth (@UnslothAI)
- Kategorie
- Modellveröffentlichungen
- KI-Bewertung
- 76
原文给出了本地运行的具体内存门槛、量化版本和硬件对照表,读者可以据此判断能否在自己的设备上跑通这个 27B 模型。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Unsloth veröffentlicht dynamische GGUF-Quantisierung von Qwen3.8-27B für lokalen Betrieb mit 17 GB Arbeitsspeicher. 14. August 2026. https://new.nat6.net/de/news/cmtyjea9s000ero10m41ji0r7/