Le Multi-Token Prediction gelé accélère le modèle Gemini Nano sur Pixel
Titre original:Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
Résumé IA
Google Research propose une nouvelle architecture qui adapte le Multi-Token Prediction (MTP) sur le modèle Gemini Nano v3 gelé pour accélérer l'inférence embarquée sur les séries Pixel 9 et 10. La méthode s'appuie sur le framework EAGLE et CALM, sans entraîner séparément un modèle de brouillon gourmand en mémoire, grâce à une stratégie de « sortie tardive ». Les fonctions de résumé de notifications et de correction par IA génèrent ainsi le texte nettement plus rapidement avec une consommation d'énergie réduite, sans que les développeurs aient à ajuster un modèle distinct pour chaque nouvelle tâche.
Points clés
- Google Research propose une nouvelle architecture qui adapte le Multi-Token Prediction (MTP) sur…
- La méthode s'appuie sur le framework EAGLE et CALM,sans entraîner séparément un modèle de…
- Les fonctions de résumé de notifications et de correction par IA génèrent ainsi le texte nettement…
En bref
- Publié
- Mis à jour
- Source
- Google Research:Blog(网页)
- Catégorie
- Articles et recherche
- Score IA
- 55
谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Le Multi-Token Prediction gelé accélère le modèle Gemini Nano sur Pixel. 26. juin 2026. https://new.nat6.net/fr/news/cmqwtvowe0035slp023899gx2/