Google выпустила QAT-чекпоинты Gemma 4 с поддержкой локального запуска на потребительских GPU и мобильных устройствах
Оригинальный заголовок:New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...
ИИ-резюме
Google выпустила чекпоинты Gemma 4 с обучением с учётом квантования (QAT), поддерживающие локальный запуск на потребительских GPU и мобильных устройствах с минимальной потерей качества. Новые чекпоинты доступны в формате GGUF (Q4_0) для всех размеров и черновых моделей, обеспечивая оптимальную локальную производительность. Пользовательский мобильный режим использует схему смешанной точности, сжимая Gemma 4 менее чем до 1 ГБ, включая 2-битные слои декодирования, оптимизированный KV-кэш и статические активации. За счёт имитации сжатия во время обучения (а не посттренировочного квантования) значительно снижается потребление памяти и ускоряется декодирование при сохранении качества рассуждений.
Ключевые моменты
- Google выпустила чекпоинты Gemma 4 с обучением с учётом квантования (QAT),поддерживающие локальный…
- Новые чекпоинты доступны в формате GGUF (Q4_0) для всех размеров и черновых моделей,обеспечивая…
- Пользовательский мобильный режим использует схему смешанной точности,сжимая Gemma 4 менее чем до 1…
- За счёт имитации сжатия во время обучения (а не посттренировочного квантования) значительно…
Кратко
- Опубликовано
- Обновлено
- Категория
- Релизы моделей
- Оценка ИИ
- 72
Gemma 4 的量化版把模型压到 1GB 以下,手机本地跑大模型的门槛又低了一大截。Google 这次没用传统的训练后量化,而是把压缩直接嵌进训练里,效果比 PTQ 好一截,搞端侧部署的可以拿 checkpoint 试起来了。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Google выпустила QAT-чекпоинты Gemma 4 с поддержкой локального запуска на потребительских GPU и мобильных устройствах. 6 июня 2026. https://new.nat6.net/ru/news/cmq166ise0cu5sltrv7a12syq/