Unsloth、Mistral Le Chonk 1-bit GGUF 量子化版をリリース、1Tパラメータモデルをローカル実行可能に
原題:Mistral Le Chonk can now run locally!
AI 要約
Unsloth は Mistral Le Chonk(Mistral Large 4、1T パラメータ MoE、52B アクティブ)の Dynamic 1-bit GGUF をリリースした。Mac Studio 上でローカル実行でき、top-1 精度の 91% を維持し、サイズは約 233GB(1.1TB FP8 より 80% 小さい)。図は各量子化段階のハードウェア要件を示し、1-bit は 256-270GB のメモリを必要とし、最小の UD-IQ1_S は約 233GB のディスクを占める。テキストと画像入力、1M コンテキスト、160 以上の言語をサポートする。GGUF とガイドは huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF と unsloth.ai/docs/models/mistral-large-4 を参照。
要点
- Unsloth は Mistral Le Chonk(Mistral Large 4、1T パラメータ MoE、52B アクティブ)の Dynamic 1-bit GGUF をリリースした。
- Mac Studio 上でローカル実行でき、top-1 精度の 91% を維持し、サイズは約 233GB(1.
- 1TB FP8 より 80% 小さい)。
- 図は各量子化段階のハードウェア要件を示し、1-bit は 256-270GB のメモリを必要とし、最小の UD-IQ1_S は約 233GB のディスクを占める。
- テキストと画像入力、1M コンテキスト、160 以上の言語をサポートする。
概要
- 公開日時
- 更新日時
- カテゴリ
- 製品とアプリ
- AI スコア
- 77
原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Unsloth、Mistral Le Chonk 1-bit GGUF 量子化版をリリース、1Tパラメータモデルをローカル実行可能に。2026年10月29日。https://new.nat6.net/ja/news/rph54wkrnzjpvov4cv0mxqatl/