Articles et recherche

Le Multi-Token Prediction gelé accélère le modèle Gemini Nano sur Pixel

Titre original:Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

Résumé IA

Google Research propose une nouvelle architecture qui adapte le Multi-Token Prediction (MTP) sur le modèle Gemini Nano v3 gelé pour accélérer l'inférence embarquée sur les séries Pixel 9 et 10. La méthode s'appuie sur le framework EAGLE et CALM, sans entraîner séparément un modèle de brouillon gourmand en mémoire, grâce à une stratégie de « sortie tardive ». Les fonctions de résumé de notifications et de correction par IA génèrent ainsi le texte nettement plus rapidement avec une consommation d'énergie réduite, sans que les développeurs aient à ajuster un modèle distinct pour chaque nouvelle tâche.

Points clés

  • Google Research propose une nouvelle architecture qui adapte le Multi-Token Prediction (MTP) sur…
  • La méthode s'appuie sur le framework EAGLE et CALM,sans entraîner séparément un modèle de…
  • Les fonctions de résumé de notifications et de correction par IA génèrent ainsi le texte nettement…

En bref

Publié
Mis à jour
Source
Google Research:Blog(网页)
Catégorie
Articles et recherche
Score IA
55
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Le Multi-Token Prediction gelé accélère le modèle Gemini Nano sur Pixel. 26. juin 2026. https://new.nat6.net/fr/news/cmqwtvowe0035slp023899gx2/

Tout voir →