DiffusionGemma : un modèle de diffusion textuelle avec une inférence 4 fois plus rapide
Titre original:DiffusionGemma: 4x faster text generation
Résumé IA
Google publie DiffusionGemma, un modèle open source expérimental qui utilise la diffusion textuelle pour générer en parallèle des blocs de 256 tokens, avec une vitesse d'inférence jusqu'à 4 fois supérieure. Ce modèle MoE de 26B n'active que 3,8B de paramètres, tient après quantification dans 18 Go de VRAM sur un GPU grand public et atteint plus de 1000 tokens/s sur un seul H100.
Points clés
- Google publie DiffusionGemma,un modèle open source expérimental qui utilise la diffusion textuelle…
- avec une vitesse d'inférence jusqu'à 4 fois supérieure.
- Ce modèle MoE de 26B n'active que 3,8B de paramètres,tient après quantification dans 18 Go de VRAM…
En bref
- Publié
- Mis à jour
- Source
- Google AI:DEV 作者专属(RSS)
- Catégorie
- Sorties de modèles
- Score IA
- 68
Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : DiffusionGemma : un modèle de diffusion textuelle avec une inférence 4 fois plus rapide. 14. juillet 2026. https://new.nat6.net/fr/news/cms3dqexj0aviro3fnuu5mxbg/