Релизы моделей

DiffusionGemma: открытая диффузионная модель с 4-кратным ускорением генерации текста

Оригинальный заголовок:DiffusionGemma: 4x faster text generation

ИИ-резюме

Google DeepMind выпустила открытую экспериментальную модель DiffusionGemma на основе текстовой диффузии, которая преодолевает авторегрессионную генерацию по одному токену и параллельно генерирует 256 токенов за каждый прямой проход. Эта 26B MoE-модель активирует при инференсе лишь 3.8B параметров и после квантования помещается в 18GB видеопамяти потребительского GPU. На H100 достигается 1000+ tokens/s, на RTX 5090 — 700+ tokens/s, ускорение в 4 раза. Модель обладает двунаправленным вниманием и способностью к самокоррекции, ориентирована на локальные интерактивные сценарии, такие как встроенное редактирование и заполнение кода, и открыта под лицензией Apache 2.0.

Ключевые моменты

  • Google DeepMind выпустила открытую экспериментальную модель DiffusionGemma на основе текстовой…
  • Эта 26B MoE-модель активирует при инференсе лишь 3.
  • 8B параметров и после квантования помещается в 18GB видеопамяти потребительского GPU.
  • На H100 достигается 1000+ tokens/s,на RTX 5090 — 700+ tokens/s,ускорение в 4 раза.
  • Модель обладает двунаправленным вниманием и способностью к самокоррекции,ориентирована на…

Кратко

Опубликовано
Обновлено
Источник
Google DeepMind:Blog(RSS)
Категория
Релизы моделей
Оценка ИИ
72
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: DiffusionGemma: открытая диффузионная модель с 4-кратным ускорением генерации текста. 11 июня 2026. https://new.nat6.net/ru/news/cmq8aoxud00ngslldd191n34b/

Смотреть все →