Paglabas ng modelo

DiffusionGemma: open source diffusion model na 4x na mas mabilis sa text generation

Orihinal na pamagat:DiffusionGemma: 4x faster text generation

AI summary

Inilabas ng Google DeepMind ang open source experimental model na DiffusionGemma, na gumagamit ng text diffusion technology, lumalampas sa autoregressive token-by-token generation, at sabay na bumubuo ng 256 token sa bawat forward pass. Ang 26B MoE model na ito ay nag-a-activate lamang ng 3.8B parameters sa inference, at pagkatapos ng quantization ay umaangkop sa 18GB memory ng consumer-grade GPU. Umabot ng 1000+ tokens/s sa H100, at 700+ tokens/s sa RTX 5090, 4x na pagbilis. May bidirectional attention at self-correction capability, nakatuon sa local interactive workflow tulad ng inline editing at code filling, at bukas sa ilalim ng Apache 2.0 license.

Mahahalagang impormasyon

  • Inilabas ng Google DeepMind ang open source experimental model na DiffusionGemma,na gumagamit ng…
  • Ang 26B MoE model na ito ay nag-a-activate lamang ng 3.
  • 8B parameters sa inference,at pagkatapos ng quantization ay umaangkop sa 18GB memory ng…
  • Umabot ng 1000+ tokens/s sa H100,at 700+ tokens/s sa RTX 5090,4x na pagbilis.
  • May bidirectional attention at self-correction capability,nakatuon sa local interactive workflow…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Google DeepMind:Blog(RSS)
Kategorya
Paglabas ng modelo
AI na marka
72
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: DiffusionGemma: open source diffusion model na 4x na mas mabilis sa text generation. 11 Hunyo 2026. https://new.nat6.net/fil/news/cmq8aoxud00ngslldd191n34b/

Tingnan lahat →