Paglabas ng modelo

Inilabas ang DiffusionGemma: 4x na bilis ng inference sa text diffusion model

Orihinal na pamagat:DiffusionGemma: 4x faster text generation

AI summary

Inilabas ng Google ang eksperimental na open source model na DiffusionGemma, na gumagamit ng text diffusion technology upang parallel na bumuo ng 256 token blocks, na may hanggang 4x na pagtaas ng bilis ng inference. Ang 26B MoE model na ito ay may 3.8B aktibong parameter lamang, umaangkop sa 18GB VRAM na consumer GPU pagkatapos i-quantize, at nakakamit ng 1000+ tokens/s sa isang H100.

Mahahalagang impormasyon

  • Inilabas ng Google ang eksperimental na open source model na DiffusionGemma,na gumagamit ng text…
  • Ang 26B MoE model na ito ay may 3.
  • 8B aktibong parameter lamang,umaangkop sa 18GB VRAM na consumer GPU pagkatapos i-quantize,at…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Google AI:DEV 作者专属(RSS)
Kategorya
Paglabas ng modelo
AI na marka
68
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inilabas ang DiffusionGemma: 4x na bilis ng inference sa text diffusion model. 14 Hulyo 2026. https://new.nat6.net/fil/news/cms3dqexj0aviro3fnuu5mxbg/

Tingnan lahat →