製品とアプリ

Unsloth、Mistral Le Chonk 1-bit GGUF 量子化版をリリース、1Tパラメータモデルをローカル実行可能に

原題:Mistral Le Chonk can now run locally!

AI 要約

Unsloth は Mistral Le Chonk(Mistral Large 4、1T パラメータ MoE、52B アクティブ)の Dynamic 1-bit GGUF をリリースした。Mac Studio 上でローカル実行でき、top-1 精度の 91% を維持し、サイズは約 233GB(1.1TB FP8 より 80% 小さい)。図は各量子化段階のハードウェア要件を示し、1-bit は 256-270GB のメモリを必要とし、最小の UD-IQ1_S は約 233GB のディスクを占める。テキストと画像入力、1M コンテキスト、160 以上の言語をサポートする。GGUF とガイドは huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF と unsloth.ai/docs/models/mistral-large-4 を参照。

要点

  • Unsloth は Mistral Le Chonk(Mistral Large 4、1T パラメータ MoE、52B アクティブ)の Dynamic 1-bit GGUF をリリースした。
  • Mac Studio 上でローカル実行でき、top-1 精度の 91% を維持し、サイズは約 233GB(1.
  • 1TB FP8 より 80% 小さい)。
  • 図は各量子化段階のハードウェア要件を示し、1-bit は 256-270GB のメモリを必要とし、最小の UD-IQ1_S は約 233GB のディスクを占める。
  • テキストと画像入力、1M コンテキスト、160 以上の言語をサポートする。

概要

公開日時
更新日時
出典
X:Unsloth (@UnslothAI)
カテゴリ
製品とアプリ
トピック
製品アップデートオープンソースエコシステム
AI スコア
77
原文を読む 情報源で全文を読む
おすすめの理由

原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。

関連トピック

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Unsloth、Mistral Le Chonk 1-bit GGUF 量子化版をリリース、1Tパラメータモデルをローカル実行可能に。2026年10月29日。https://new.nat6.net/ja/news/rph54wkrnzjpvov4cv0mxqatl/

すべて見る →