Google merilis checkpoint Gemma 4 QAT, mendukung operasi lokal pada GPU konsumen dan perangkat seluler
Judul asli:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...
Ringkasan AI
Google merilis checkpoint Quantization-Aware Training (QAT) Gemma 4, mendukung operasi lokal pada GPU konsumen dan perangkat seluler dengan kehilangan kualitas minimal. Checkpoint baru tersedia dalam format GGUF (Q4_0), mencakup semua ukuran dan model draf, mewujudkan performa lokal terbaik. Mode seluler khusus menggunakan skema presisi campuran, mengompresi Gemma 4 hingga di bawah 1GB, mencakup lapisan dekode 2-bit, cache KV yang dioptimalkan, dan aktivasi statis. Dengan mensimulasikan kompresi selama pelatihan (bukan kuantisasi pasca-pelatihan), penggunaan memori berkurang drastis dan dekode dipercepat, sambil mempertahankan kualitas penalaran.
Poin utama
- Google merilis checkpoint Quantization-Aware Training (QAT) Gemma 4,mendukung operasi lokal pada…
- Checkpoint baru tersedia dalam format GGUF (Q4_0),mencakup semua ukuran dan model draf,mewujudkan…
- Mode seluler khusus menggunakan skema presisi campuran,mengompresi Gemma 4 hingga di bawah…
- Dengan mensimulasikan kompresi selama pelatihan (bukan kuantisasi pasca-pelatihan),penggunaan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Rilis Model
- Skor AI
- 72
Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Google merilis checkpoint Gemma 4 QAT, mendukung operasi lokal pada GPU konsumen dan perangkat seluler. 6 Juni 2026. https://new.nat6.net/id/news/cmq166ise0cu5sltrv7a12syq/