モデル公開

Google、Gemma 4 QATチェックポイントを公開、コンシューマーGPUやモバイル端末でのローカル実行に対応

原題:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...

AI 要約

GoogleはGemma 4の量子化認識トレーニング(QAT)チェックポイントを公開し、品質損失を最小限に抑えつつコンシューマーGPUやモバイル端末でのローカル実行を可能にした。新しいチェックポイントはGGUF(Q4_0)形式で提供され、全サイズとドラフトモデルをカバーし、最適なローカル性能を実現する。カスタムモバイルモードは混合精度方式を採用し、Gemma 4を1GB未満に圧縮、2-bitデコード層、最適化されたKVキャッシュ、静的アクティベーションを含む。トレーニング中に圧縮をシミュレートすることで(トレーニング後の量子化ではなく)、メモリ使用量を大幅に削減しデコードを高速化しながら、推論品質を維持する。

要点

  • GoogleはGemma 4の量子化認識トレーニング(QAT)チェックポイントを公開し、品質損失を最小限に抑えつつコンシューマーGPUやモバイル端末でのローカル実行を可能にした。
  • 新しいチェックポイントはGGUF(Q4_0)形式で提供され、全サイズとドラフトモデルをカバーし、最適なローカル性能を実現する。
  • カスタムモバイルモードは混合精度方式を採用し、Gemma 4を1GB未満に圧縮、2-bitデコード層、最適化されたKVキャッシュ、静的アクティベーションを含む。
  • トレーニング中に圧縮をシミュレートすることで(トレーニング後の量子化ではなく)、メモリ使用量を大幅に削減しデコードを高速化しながら、推論品質を維持する

概要

公開日時
更新日時
出典
X:Google AI for Developers (@googleaidevs)
カテゴリ
モデル公開
AI スコア
72
原文を読む 情報源で全文を読む
おすすめの理由

Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Google、Gemma 4 QATチェックポイントを公開、コンシューマーGPUやモバイル端末でのローカル実行に対応。2026年6月6日。https://new.nat6.net/ja/news/cmq166ise0cu5sltrv7a12syq/

すべて見る →