DiffusionGemma veröffentlicht: Textdiffusionsmodell erreicht 4-fach schnellere Inferenz
Originaltitel:DiffusionGemma: 4x faster text generation
KI-Zusammenfassung
Google hat das experimentelle Open-Source-Modell DiffusionGemma veröffentlicht, das mit Textdiffusion parallel Blöcke von 256 Tokens generiert und die Inferenzgeschwindigkeit um bis zu das Vierfache steigert. Das 26B-MoE-Modell aktiviert nur 3,8B Parameter, passt quantisiert in 18 GB VRAM auf Consumer-GPUs und erreicht auf einer einzelnen H100 über 1000 Tokens/s.
Kernpunkte
- Google hat das experimentelle Open-Source-Modell DiffusionGemma veröffentlicht
- das mit Textdiffusion parallel Blöcke von 256 Tokens generiert und die Inferenzgeschwindigkeit um…
- Das 26B-MoE-Modell aktiviert nur 3,8B Parameter,passt quantisiert in 18 GB VRAM auf Consumer-GPUs…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- Google AI:DEV 作者专属(RSS)
- Kategorie
- Modellveröffentlichungen
- KI-Bewertung
- 68
Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: DiffusionGemma veröffentlicht: Textdiffusionsmodell erreicht 4-fach schnellere Inferenz. 14. Juli 2026. https://new.nat6.net/de/news/cms3dqexj0aviro3fnuu5mxbg/