Google lanza los checkpoints QAT de Gemma 4, con ejecución local en GPU de consumo y dispositivos móviles
Título original:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...
Resumen de IA
Google ha lanzado los checkpoints de entrenamiento con reconocimiento de cuantización (QAT) de Gemma 4, que permiten la ejecución local en GPU de consumo y dispositivos móviles con una pérdida de calidad mínima. Los nuevos checkpoints se ofrecen en formato GGUF (Q4_0), cubren todos los tamaños y el modelo borrador, y logran el mejor rendimiento local. El modo móvil personalizado emplea un esquema de precisión mixta que comprime Gemma 4 por debajo de 1 GB, con capas de decodificación de 2 bits, caché KV optimizada y activaciones estáticas. Al simular la compresión durante el entrenamiento (en lugar de cuantizar después), se reduce notablemente el uso de memoria y se acelera la decodificación sin perder calidad de razonamiento.
Puntos clave
- Google ha lanzado los checkpoints de entrenamiento con reconocimiento de cuantización (QAT) de…
- Los nuevos checkpoints se ofrecen en formato GGUF (Q4_0),cubren todos los tamaños y el modelo…
- El modo móvil personalizado emplea un esquema de precisión mixta que comprime Gemma 4 por debajo…
- Al simular la compresión durante el entrenamiento (en lugar de cuantizar después),se reduce…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Lanzamientos de modelos
- Puntuación IA
- 72
Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Google lanza los checkpoints QAT de Gemma 4, con ejecución local en GPU de consumo y dispositivos móviles. 6. junio 2026. https://new.nat6.net/es/news/cmq166ise0cu5sltrv7a12syq/