Modellveröffentlichungen

DiffusionGemma veröffentlicht: Textdiffusionsmodell erreicht 4-fach schnellere Inferenz

Originaltitel:DiffusionGemma: 4x faster text generation

KI-Zusammenfassung

Google hat das experimentelle Open-Source-Modell DiffusionGemma veröffentlicht, das mit Textdiffusion parallel Blöcke von 256 Tokens generiert und die Inferenzgeschwindigkeit um bis zu das Vierfache steigert. Das 26B-MoE-Modell aktiviert nur 3,8B Parameter, passt quantisiert in 18 GB VRAM auf Consumer-GPUs und erreicht auf einer einzelnen H100 über 1000 Tokens/s.

Kernpunkte

  • Google hat das experimentelle Open-Source-Modell DiffusionGemma veröffentlicht
  • das mit Textdiffusion parallel Blöcke von 256 Tokens generiert und die Inferenzgeschwindigkeit um…
  • Das 26B-MoE-Modell aktiviert nur 3,8B Parameter,passt quantisiert in 18 GB VRAM auf Consumer-GPUs…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Google AI:DEV 作者专属(RSS)
Kategorie
Modellveröffentlichungen
KI-Bewertung
68
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: DiffusionGemma veröffentlicht: Textdiffusionsmodell erreicht 4-fach schnellere Inferenz. 14. Juli 2026. https://new.nat6.net/de/news/cms3dqexj0aviro3fnuu5mxbg/

Alle ansehen →