Google、Gemma 4 QATチェックポイントを公開、コンシューマーGPUやモバイル端末でのローカル実行に対応
原題:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...
AI 要約
GoogleはGemma 4の量子化認識トレーニング(QAT)チェックポイントを公開し、品質損失を最小限に抑えつつコンシューマーGPUやモバイル端末でのローカル実行を可能にした。新しいチェックポイントはGGUF(Q4_0)形式で提供され、全サイズとドラフトモデルをカバーし、最適なローカル性能を実現する。カスタムモバイルモードは混合精度方式を採用し、Gemma 4を1GB未満に圧縮、2-bitデコード層、最適化されたKVキャッシュ、静的アクティベーションを含む。トレーニング中に圧縮をシミュレートすることで(トレーニング後の量子化ではなく)、メモリ使用量を大幅に削減しデコードを高速化しながら、推論品質を維持する。
要点
- GoogleはGemma 4の量子化認識トレーニング(QAT)チェックポイントを公開し、品質損失を最小限に抑えつつコンシューマーGPUやモバイル端末でのローカル実行を可能にした。
- 新しいチェックポイントはGGUF(Q4_0)形式で提供され、全サイズとドラフトモデルをカバーし、最適なローカル性能を実現する。
- カスタムモバイルモードは混合精度方式を採用し、Gemma 4を1GB未満に圧縮、2-bitデコード層、最適化されたKVキャッシュ、静的アクティベーションを含む。
- トレーニング中に圧縮をシミュレートすることで(トレーニング後の量子化ではなく)、メモリ使用量を大幅に削減しデコードを高速化しながら、推論品質を維持する
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 72
Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Google、Gemma 4 QATチェックポイントを公開、コンシューマーGPUやモバイル端末でのローカル実行に対応。2026年6月6日。https://new.nat6.net/ja/news/cmq166ise0cu5sltrv7a12syq/