Unsloth lanza la cuantización GGUF de 1 bit de Mistral Le Chonk, que permite ejecutar localmente modelos de 1T de parámetros
Título original:Mistral Le Chonk can now run locally!
Resumen de IA
Unsloth lanza el GGUF Dynamic de 1 bit de Mistral Le Chonk (Mistral Large 4, MoE de 1T de parámetros, 52B activos), que puede ejecutarse localmente en un Mac Studio, conserva el 91% de precisión top-1 y ocupa unos 233GB (un 80% menos que los 1,1TB en FP8). La imagen detalla los requisitos de hardware para cada nivel de cuantización: el de 1 bit necesita 256-270GB de memoria, y el UD-IQ1_S más pequeño ocupa unos 233GB de disco; además, admite entrada de texto e imágenes, contexto de 1M y más de 160 idiomas. La GGUF y la guía están en huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF y unsloth.ai/docs/models/mistral-large-4.
Puntos clave
- Unsloth lanza el GGUF Dynamic de 1 bit de Mistral Le Chonk (Mistral Large 4,MoE de 1T de…
- La imagen detalla los requisitos de hardware para cada nivel de cuantización: el de 1 bit necesita…
- además,admite entrada de texto e imágenes,contexto de 1M y más de 160 idiomas.
- La GGUF y la guía están en huggingface.
- co/unsloth/Mistral-Large-4-1T-A52B-GGUF y unsloth.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- X:Unsloth (@UnslothAI)
- Categoría
- Productos y aplicaciones
- Puntuación IA
- 77
原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Unsloth lanza la cuantización GGUF de 1 bit de Mistral Le Chonk, que permite ejecutar localmente modelos de 1T de parámetros. 29. octubre 2026. https://new.nat6.net/es/news/rph54wkrnzjpvov4cv0mxqatl/