DiffusionGemma:文本生成速度提升4倍的开源扩散模型
原文标题:DiffusionGemma: 4x faster text generation
AI 摘要
Google DeepMind 发布开源实验模型 DiffusionGemma,采用文本扩散技术,突破自回归逐 token 生成方式,每次前向并行生成 256 个 token。该 26B MoE 模型推理时仅激活 3.8B 参数,量化后适配 18GB 显存消费级 GPU。在 H100 上达 1000+ tokens/s,RTX 5090 上 700+ tokens/s,速度提升 4 倍。具备双向注意力和自我修正能力,面向内联编辑、代码填充等本地交互工作流,以 Apache 2.0 许可证开放。
关键信息
- Google DeepMind 发布开源实验模型 DiffusionGemma,采用文本扩散技术,突破自回归逐 token 生成方式,每次前向并行生成 256 个 token。
- 该 26B MoE 模型推理时仅激活 3.
- 8B 参数,量化后适配 18GB 显存消费级 GPU。
- 在 H100 上达 1000+ tokens/s,RTX 5090 上 700+ tokens/s,速度提升 4 倍。
- 具备双向注意力和自我修正能力,面向内联编辑、代码填充等本地交互工作流,以 Apache 2.
速览
- 发布时间
- 更新时间
- 分类
- 模型发布
- AI 评分
- 72
推荐理由
DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:DiffusionGemma:文本生成速度提升4倍的开源扩散模型。2026年6月11日。https://new.nat6.net/news/cmq8aoxud00ngslldd191n34b/