DiffusionGemma: open source diffusion model na 4x na mas mabilis sa text generation
Orihinal na pamagat:DiffusionGemma: 4x faster text generation
AI summary
Inilabas ng Google DeepMind ang open source experimental model na DiffusionGemma, na gumagamit ng text diffusion technology, lumalampas sa autoregressive token-by-token generation, at sabay na bumubuo ng 256 token sa bawat forward pass. Ang 26B MoE model na ito ay nag-a-activate lamang ng 3.8B parameters sa inference, at pagkatapos ng quantization ay umaangkop sa 18GB memory ng consumer-grade GPU. Umabot ng 1000+ tokens/s sa H100, at 700+ tokens/s sa RTX 5090, 4x na pagbilis. May bidirectional attention at self-correction capability, nakatuon sa local interactive workflow tulad ng inline editing at code filling, at bukas sa ilalim ng Apache 2.0 license.
Mahahalagang impormasyon
- Inilabas ng Google DeepMind ang open source experimental model na DiffusionGemma,na gumagamit ng…
- Ang 26B MoE model na ito ay nag-a-activate lamang ng 3.
- 8B parameters sa inference,at pagkatapos ng quantization ay umaangkop sa 18GB memory ng…
- Umabot ng 1000+ tokens/s sa H100,at 700+ tokens/s sa RTX 5090,4x na pagbilis.
- May bidirectional attention at self-correction capability,nakatuon sa local interactive workflow…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Google DeepMind:Blog(RSS)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 72
DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: DiffusionGemma: open source diffusion model na 4x na mas mabilis sa text generation. 11 Hunyo 2026. https://new.nat6.net/fil/news/cmq8aoxud00ngslldd191n34b/