Rilis Model

Google merilis checkpoint Gemma 4 QAT, mendukung operasi lokal pada GPU konsumen dan perangkat seluler

Judul asli:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...

Ringkasan AI

Google merilis checkpoint Quantization-Aware Training (QAT) Gemma 4, mendukung operasi lokal pada GPU konsumen dan perangkat seluler dengan kehilangan kualitas minimal. Checkpoint baru tersedia dalam format GGUF (Q4_0), mencakup semua ukuran dan model draf, mewujudkan performa lokal terbaik. Mode seluler khusus menggunakan skema presisi campuran, mengompresi Gemma 4 hingga di bawah 1GB, mencakup lapisan dekode 2-bit, cache KV yang dioptimalkan, dan aktivasi statis. Dengan mensimulasikan kompresi selama pelatihan (bukan kuantisasi pasca-pelatihan), penggunaan memori berkurang drastis dan dekode dipercepat, sambil mempertahankan kualitas penalaran.

Poin utama

  • Google merilis checkpoint Quantization-Aware Training (QAT) Gemma 4,mendukung operasi lokal pada…
  • Checkpoint baru tersedia dalam format GGUF (Q4_0),mencakup semua ukuran dan model draf,mewujudkan…
  • Mode seluler khusus menggunakan skema presisi campuran,mengompresi Gemma 4 hingga di bawah…
  • Dengan mensimulasikan kompresi selama pelatihan (bukan kuantisasi pasca-pelatihan),penggunaan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
X:Google AI for Developers (@googleaidevs)
Kategori
Rilis Model
Skor AI
72
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Google merilis checkpoint Gemma 4 QAT, mendukung operasi lokal pada GPU konsumen dan perangkat seluler. 6 Juni 2026. https://new.nat6.net/id/news/cmq166ise0cu5sltrv7a12syq/

Lihat semua →