产品与应用

Unsloth 发布 MiniMax-M3.1-Flash 量化 GGUF,2-bit 版可在 150GB 内存本地运行

原文标题:MiniMax-M3.1-Flash can now run locally!

AI 摘要

Unsloth 发布 MiniMax-M3.1-Flash 的量化 GGUF,2-bit 版在缩小 45% 体积的同时保留 91.5% top 1 精度,可在 150GB 内存上本地运行,1-bit 版约 89.9%,4-bit UD-Q4_K_XL 达 98.0%。作者称其为同尺寸最强开源模型之一,并给出 Hugging Face 权重链接与本地运行指南。

关键信息

  • Unsloth 发布 MiniMax-M3.
  • 1-Flash 的量化 GGUF,2-bit 版在缩小 45% 体积的同时保留 91.
  • 5% top 1 精度,可在 150GB 内存上本地运行,1-bit 版约 89.
  • 9%,4-bit UD-Q4_K_XL 达 98.
  • 作者称其为同尺寸最强开源模型之一,并给出 Hugging Face 权重链接与本地运行指南

速览

发布时间
更新时间
来源
X:Unsloth (@UnslothAI)
分类
产品与应用
主题
产品更新开源生态
AI 评分
70
阅读原文 前往信息源阅读完整正文
推荐理由

原文给出自建 GGUF 量化在保留精度与压缩体积间的实测数据,以及各档位所需内存,读者可据此判断能否本地部署。

相关主题

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Unsloth 发布 MiniMax-M3.1-Flash 量化 GGUF,2-bit 版可在 150GB 内存本地运行。2026年10月26日。https://new.nat6.net/news/pkw262qrrom8w7qv6lq7nquxh/

查看全部 →