Pelancaran Model

Google lancar pusat pemeriksaan Gemma 4 QAT, sokong penggunaan tempatan pada GPU pengguna dan peranti mudah alih

Tajuk asal:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...

Ringkasan AI

Google melancarkan pusat pemeriksaan latihan sedar kuantisasi (QAT) Gemma 4 yang menyokong penggunaan tempatan pada GPU pengguna dan peranti mudah alih dengan kehilangan kualiti yang minimum. Pusat pemeriksaan baharu menyediakan format GGUF (Q4_0), meliputi semua saiz dan model draf, bagi mencapai prestasi tempatan terbaik. Mod mudah alih tersuai menggunakan pendekatan ketepatan campuran, memampatkan Gemma 4 kepada bawah 1GB, termasuk lapisan penyahkodan 2-bit, cache KV dioptimumkan dan pengaktifan statik. Dengan mensimulasikan pemampatan semasa latihan (bukan kuantisasi selepas latihan), penggunaan memori dikurangkan secara besar-besaran dan penyahkodan dipercepatkan sambil mengekalkan kualiti penaakulan.

Maklumat penting

  • Google melancarkan pusat pemeriksaan latihan sedar kuantisasi (QAT) Gemma 4 yang menyokong…
  • Pusat pemeriksaan baharu menyediakan format GGUF (Q4_0),meliputi semua saiz dan model draf,bagi…
  • Mod mudah alih tersuai menggunakan pendekatan ketepatan campuran,memampatkan Gemma 4 kepada bawah…
  • Dengan mensimulasikan pemampatan semasa latihan (bukan kuantisasi selepas latihan),penggunaan…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
X:Google AI for Developers (@googleaidevs)
Kategori
Pelancaran Model
Skor AI
72
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Google lancar pusat pemeriksaan Gemma 4 QAT, sokong penggunaan tempatan pada GPU pengguna dan peranti mudah alih. 6 Jun 2026. https://new.nat6.net/ms/news/cmq166ise0cu5sltrv7a12syq/

Lihat Semua →