Google lancar pusat pemeriksaan Gemma 4 QAT, sokong penggunaan tempatan pada GPU pengguna dan peranti mudah alih
Tajuk asal:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...
Ringkasan AI
Google melancarkan pusat pemeriksaan latihan sedar kuantisasi (QAT) Gemma 4 yang menyokong penggunaan tempatan pada GPU pengguna dan peranti mudah alih dengan kehilangan kualiti yang minimum. Pusat pemeriksaan baharu menyediakan format GGUF (Q4_0), meliputi semua saiz dan model draf, bagi mencapai prestasi tempatan terbaik. Mod mudah alih tersuai menggunakan pendekatan ketepatan campuran, memampatkan Gemma 4 kepada bawah 1GB, termasuk lapisan penyahkodan 2-bit, cache KV dioptimumkan dan pengaktifan statik. Dengan mensimulasikan pemampatan semasa latihan (bukan kuantisasi selepas latihan), penggunaan memori dikurangkan secara besar-besaran dan penyahkodan dipercepatkan sambil mengekalkan kualiti penaakulan.
Maklumat penting
- Google melancarkan pusat pemeriksaan latihan sedar kuantisasi (QAT) Gemma 4 yang menyokong…
- Pusat pemeriksaan baharu menyediakan format GGUF (Q4_0),meliputi semua saiz dan model draf,bagi…
- Mod mudah alih tersuai menggunakan pendekatan ketepatan campuran,memampatkan Gemma 4 kepada bawah…
- Dengan mensimulasikan pemampatan semasa latihan (bukan kuantisasi selepas latihan),penggunaan…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Pelancaran Model
- Skor AI
- 72
Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Google lancar pusat pemeriksaan Gemma 4 QAT, sokong penggunaan tempatan pada GPU pengguna dan peranti mudah alih. 6 Jun 2026. https://new.nat6.net/ms/news/cmq166ise0cu5sltrv7a12syq/