模型发布

DiffusionGemma 发布:文本扩散模型实现 4 倍加速推理

原文标题:DiffusionGemma: 4x faster text generation

AI 摘要

Google 发布实验性开源模型 DiffusionGemma,采用文本扩散技术并行生成 256 token 块,推理速度最高提升 4 倍。该 26B MoE 模型仅激活 3.8B 参数,量化后适配 18GB VRAM 消费级 GPU,在单张 H100 上达 1000+ tokens/s。

关键信息

  • Google 发布实验性开源模型 DiffusionGemma,采用文本扩散技术并行生成 256 token 块,推理速度最高提升 4 倍。
  • 该 26B MoE 模型仅激活 3.
  • 8B 参数,量化后适配 18GB VRAM 消费级 GPU,在单张 H100 上达 1000+ tokens/s
  • Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。
  • 虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了

速览

发布时间
更新时间
来源
Google AI:DEV 作者专属(RSS)
分类
模型发布
AI 评分
68
阅读原文 前往信息源阅读完整正文
推荐理由

Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:DiffusionGemma 发布:文本扩散模型实现 4 倍加速推理。2026年7月14日。https://new.nat6.net/news/cms3dqexj0aviro3fnuu5mxbg/

查看全部 →