Productos y aplicaciones

Unsloth lanza la cuantización GGUF de 1 bit de Mistral Le Chonk, que permite ejecutar localmente modelos de 1T de parámetros

Título original:Mistral Le Chonk can now run locally!

Resumen de IA

Unsloth lanza el GGUF Dynamic de 1 bit de Mistral Le Chonk (Mistral Large 4, MoE de 1T de parámetros, 52B activos), que puede ejecutarse localmente en un Mac Studio, conserva el 91% de precisión top-1 y ocupa unos 233GB (un 80% menos que los 1,1TB en FP8). La imagen detalla los requisitos de hardware para cada nivel de cuantización: el de 1 bit necesita 256-270GB de memoria, y el UD-IQ1_S más pequeño ocupa unos 233GB de disco; además, admite entrada de texto e imágenes, contexto de 1M y más de 160 idiomas. La GGUF y la guía están en huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF y unsloth.ai/docs/models/mistral-large-4.

Puntos clave

  • Unsloth lanza el GGUF Dynamic de 1 bit de Mistral Le Chonk (Mistral Large 4,MoE de 1T de…
  • La imagen detalla los requisitos de hardware para cada nivel de cuantización: el de 1 bit necesita…
  • además,admite entrada de texto e imágenes,contexto de 1M y más de 160 idiomas.
  • La GGUF y la guía están en huggingface.
  • co/unsloth/Mistral-Large-4-1T-A52B-GGUF y unsloth.

Resumen rápido

Publicado
Actualizado
Fuente
X:Unsloth (@UnslothAI)
Categoría
Productos y aplicaciones
Tema
Actualizaciones de productoEcosistema de código abierto
Puntuación IA
77
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。

Temas

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Unsloth lanza la cuantización GGUF de 1 bit de Mistral Le Chonk, que permite ejecutar localmente modelos de 1T de parámetros. 29. octubre 2026. https://new.nat6.net/es/news/rph54wkrnzjpvov4cv0mxqatl/

Ver todo →