Tutoriales y consejos

Unsloth publica una guía para ejecutar localmente las cuantizaciones GGUF de GLM-5.3

Título original:GLM-5.3 can now be run locally! The 2-bit model retains ~81% accuracy after we shrunk it from 1.51T...

Resumen de IA

Unsloth publica cuantizaciones GGUF dinámicas de GLM-5.3: el modelo de 2 bits pasa de 1,51 TB a 239 GB (un 83 % menos) y conserva cerca del 81 % de la precisión top-1, mientras que el de 1 bit logra alrededor del 76 % con una reducción del 85 %.

Puntos clave

  • Unsloth publica cuantizaciones GGUF dinámicas de GLM-5.
  • 3: el modelo de 2 bits pasa de 1,51 TB a 239 GB (un 83 % menos) y conserva cerca del 81 % de la…
  • mientras que el de 1 bit logra alrededor del 76 % con una reducción del 85 %.

Resumen rápido

Publicado
Actualizado
Fuente
X:Unsloth (@UnslothAI)
Categoría
Tutoriales y consejos
Puntuación IA
77
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文给出动态量化的精度与体积数据和不同位宽的硬件需求,读者可据此选择本地运行 GLM-5.3 的方案。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Unsloth publica una guía para ejecutar localmente las cuantizaciones GGUF de GLM-5.3. 29. agosto 2026. https://new.nat6.net/es/news/cmtyjea9r0006ro10vqcz2b40/

Ver todo →