Статьи и исследования

Замороженное многотокенное предсказание ускоряет модель Gemini Nano на Pixel

Оригинальный заголовок:Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

ИИ-резюме

Google Research предложила новую архитектуру, которая модифицирует Multi-Token Prediction (MTP) на уже замороженной модели Gemini Nano v3 для ускорения инференса на устройствах серии Pixel 9 и 10. Метод основан на фреймворке EAGLE и CALM и не требует отдельного обучения черновой модели, занимающей память, а ускорение достигается за счёт стратегии «раннего выхода». Благодаря этому генерация текста в функциях ИИ-сводок уведомлений и проверки правописания значительно ускорилась, а энергопотребление снизилось; разработчикам больше не нужно дообучать отдельную модель под каждую новую задачу.

Ключевые моменты

  • Google Research предложила новую архитектуру,которая модифицирует Multi-Token Prediction (MTP) на…
  • Метод основан на фреймворке EAGLE и CALM и не требует отдельного обучения черновой…
  • Благодаря этому генерация текста в функциях ИИ-сводок уведомлений и проверки правописания…
  • разработчикам больше не нужно дообучать отдельную модель под каждую новую задачу.

Кратко

Опубликовано
Обновлено
Источник
Google Research:Blog(网页)
Категория
Статьи и исследования
Оценка ИИ
55
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Замороженное многотокенное предсказание ускоряет модель Gemini Nano на Pixel. 26 июня 2026. https://new.nat6.net/ru/news/cmqwtvowe0035slp023899gx2/

Смотреть все →