Inilabas ng Unsloth ang Mistral Le Chonk 1-bit GGUF quantization, kayang patakbuhin nang lokal ang 1T parameter model
Orihinal na pamagat:Mistral Le Chonk can now run locally!
AI summary
Inilabas ng Unsloth ang Dynamic 1-bit GGUF ng Mistral Le Chonk (Mistral Large 4, 1T parameter MoE, 52B aktibo), na kayang patakbuhin nang lokal sa Mac Studio, pinapanatili ang 91% top-1 accuracy, at may laki na humigit-kumulang 233GB (80% na mas maliit kaysa 1.1TB FP8). Ipinapakita ng larawan ang mga pangangailangan sa hardware para sa bawat quantization level: ang 1-bit ay nangangailangan ng 256-270GB memory, ang pinakamaliit na UD-IQ1_S ay sumasakop ng humigit-kumulang 233GB disk, at sinusuportahan ang text at image input, 1M context, at 160+ na wika. Tingnan ang GGUF at gabay sa huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF at unsloth.ai/docs/models/mistral-large-4.
Mahahalagang impormasyon
- Inilabas ng Unsloth ang Dynamic 1-bit GGUF ng Mistral Le Chonk (Mistral Large 4,1T parameter…
- 1TB FP8).
- Ipinapakita ng larawan ang mga pangangailangan sa hardware para sa bawat quantization level: ang…
- Tingnan ang GGUF at gabay sa huggingface.
- co/unsloth/Mistral-Large-4-1T-A52B-GGUF at unsloth.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- X:Unsloth (@UnslothAI)
- Kategorya
- Mga produkto at aplikasyon
- AI na marka
- 77
原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。
Mga kaugnay na paksa
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Inilabas ng Unsloth ang Mistral Le Chonk 1-bit GGUF quantization, kayang patakbuhin nang lokal ang 1T parameter model. 29 Oktubre 2026. https://new.nat6.net/fil/news/rph54wkrnzjpvov4cv0mxqatl/