Релизы моделей

Google выпустила QAT-чекпоинты Gemma 4 с поддержкой локального запуска на потребительских GPU и мобильных устройствах

Оригинальный заголовок:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...

ИИ-резюме

Google выпустила чекпоинты Gemma 4 с обучением с учётом квантования (QAT), поддерживающие локальный запуск на потребительских GPU и мобильных устройствах с минимальной потерей качества. Новые чекпоинты доступны в формате GGUF (Q4_0) для всех размеров и черновых моделей, обеспечивая оптимальную локальную производительность. Пользовательский мобильный режим использует схему смешанной точности, сжимая Gemma 4 менее чем до 1 ГБ, включая 2-битные слои декодирования, оптимизированный KV-кэш и статические активации. За счёт имитации сжатия во время обучения (а не посттренировочного квантования) значительно снижается потребление памяти и ускоряется декодирование при сохранении качества рассуждений.

Ключевые моменты

  • Google выпустила чекпоинты Gemma 4 с обучением с учётом квантования (QAT),поддерживающие локальный…
  • Новые чекпоинты доступны в формате GGUF (Q4_0) для всех размеров и черновых моделей,обеспечивая…
  • Пользовательский мобильный режим использует схему смешанной точности,сжимая Gemma 4 менее чем до 1…
  • За счёт имитации сжатия во время обучения (а не посттренировочного квантования) значительно…

Кратко

Опубликовано
Обновлено
Источник
X:Google AI for Developers (@googleaidevs)
Категория
Релизы моделей
Оценка ИИ
72
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Google выпустила QAT-чекпоинты Gemma 4 с поддержкой локального запуска на потребительских GPU и мобильных устройствах. 6 июня 2026. https://new.nat6.net/ru/news/cmq166ise0cu5sltrv7a12syq/

Смотреть все →