DiffusionGemma: открытая диффузионная модель с 4-кратным ускорением генерации текста
Оригинальный заголовок:DiffusionGemma: 4x faster text generation
ИИ-резюме
Google DeepMind выпустила открытую экспериментальную модель DiffusionGemma на основе текстовой диффузии, которая преодолевает авторегрессионную генерацию по одному токену и параллельно генерирует 256 токенов за каждый прямой проход. Эта 26B MoE-модель активирует при инференсе лишь 3.8B параметров и после квантования помещается в 18GB видеопамяти потребительского GPU. На H100 достигается 1000+ tokens/s, на RTX 5090 — 700+ tokens/s, ускорение в 4 раза. Модель обладает двунаправленным вниманием и способностью к самокоррекции, ориентирована на локальные интерактивные сценарии, такие как встроенное редактирование и заполнение кода, и открыта под лицензией Apache 2.0.
Ключевые моменты
- Google DeepMind выпустила открытую экспериментальную модель DiffusionGemma на основе текстовой…
- Эта 26B MoE-модель активирует при инференсе лишь 3.
- 8B параметров и после квантования помещается в 18GB видеопамяти потребительского GPU.
- На H100 достигается 1000+ tokens/s,на RTX 5090 — 700+ tokens/s,ускорение в 4 раза.
- Модель обладает двунаправленным вниманием и способностью к самокоррекции,ориентирована на…
Кратко
- Опубликовано
- Обновлено
- Источник
- Google DeepMind:Blog(RSS)
- Категория
- Релизы моделей
- Оценка ИИ
- 72
DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: DiffusionGemma: открытая диффузионная модель с 4-кратным ускорением генерации текста. 11 июня 2026. https://new.nat6.net/ru/news/cmq8aoxud00ngslldd191n34b/