Sorties de modèles

Google publie les checkpoints QAT de Gemma 4, exécutables localement sur GPU grand public et appareils mobiles

Titre original:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...

Résumé IA

Google publie les checkpoints de quantification avec entraînement (QAT) de Gemma 4, permettant une exécution locale sur GPU grand public et appareils mobiles avec une perte de qualité minime. Les nouveaux checkpoints sont fournis au format GGUF (Q4_0), couvrant toutes les tailles et le modèle de rédaction, pour des performances locales optimales. Le mode mobile personnalisé adopte un schéma de précision mixte compressant Gemma 4 sous 1 Go, avec des couches de décodage 2 bits, un cache KV optimisé et des activations statiques. En simulant la compression pendant l'entraînement plutôt qu'en quantifiant après, la consommation mémoire est fortement réduite et le décodage accéléré, tout en préservant la qualité du raisonnement.

Points clés

  • Google publie les checkpoints de quantification avec entraînement (QAT) de Gemma 4,permettant une…
  • Les nouveaux checkpoints sont fournis au format GGUF (Q4_0),couvrant toutes les tailles et le…
  • Le mode mobile personnalisé adopte un schéma de précision mixte compressant Gemma 4 sous 1 Go,avec…
  • En simulant la compression pendant l'entraînement plutôt qu'en quantifiant après,la consommation…

En bref

Publié
Mis à jour
Source
X:Google AI for Developers (@googleaidevs)
Catégorie
Sorties de modèles
Score IA
72
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Google publie les checkpoints QAT de Gemma 4, exécutables localement sur GPU grand public et appareils mobiles. 6. juin 2026. https://new.nat6.net/fr/news/cmq166ise0cu5sltrv7a12syq/

Tout voir →