Google publie les checkpoints QAT de Gemma 4, exécutables localement sur GPU grand public et appareils mobiles
Titre original:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...
Résumé IA
Google publie les checkpoints de quantification avec entraînement (QAT) de Gemma 4, permettant une exécution locale sur GPU grand public et appareils mobiles avec une perte de qualité minime. Les nouveaux checkpoints sont fournis au format GGUF (Q4_0), couvrant toutes les tailles et le modèle de rédaction, pour des performances locales optimales. Le mode mobile personnalisé adopte un schéma de précision mixte compressant Gemma 4 sous 1 Go, avec des couches de décodage 2 bits, un cache KV optimisé et des activations statiques. En simulant la compression pendant l'entraînement plutôt qu'en quantifiant après, la consommation mémoire est fortement réduite et le décodage accéléré, tout en préservant la qualité du raisonnement.
Points clés
- Google publie les checkpoints de quantification avec entraînement (QAT) de Gemma 4,permettant une…
- Les nouveaux checkpoints sont fournis au format GGUF (Q4_0),couvrant toutes les tailles et le…
- Le mode mobile personnalisé adopte un schéma de précision mixte compressant Gemma 4 sous 1 Go,avec…
- En simulant la compression pendant l'entraînement plutôt qu'en quantifiant après,la consommation…
En bref
- Publié
- Mis à jour
- Catégorie
- Sorties de modèles
- Score IA
- 72
Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Google publie les checkpoints QAT de Gemma 4, exécutables localement sur GPU grand public et appareils mobiles. 6. juin 2026. https://new.nat6.net/fr/news/cmq166ise0cu5sltrv7a12syq/