Rilis Model

DiffusionGemma: model difusi sumber terbuka dengan kecepatan pembuatan teks 4 kali lebih tinggi

Judul asli:DiffusionGemma: 4x faster text generation

Ringkasan AI

Google DeepMind merilis model eksperimental sumber terbuka DiffusionGemma yang menggunakan teknologi difusi teks, menerobos cara pembuatan token demi token autoregresif dengan menghasilkan 256 token secara paralel dalam setiap forward pass. Model MoE 26B ini hanya mengaktifkan 3,8B parameter saat inferensi, dan setelah kuantisasi dapat berjalan pada GPU konsumen dengan memori 18GB. Mencapai 1000+ token/detik pada H100 dan 700+ token/detik pada RTX 5090, dengan kecepatan 4 kali lebih tinggi. Memiliki atensi dua arah dan kemampuan koreksi diri, ditujukan untuk alur kerja interaktif lokal seperti pengeditan inline dan pengisian kode, serta dirilis dengan lisensi Apache 2.0.

Poin utama

  • Google DeepMind merilis model eksperimental sumber terbuka DiffusionGemma yang menggunakan…
  • Model MoE 26B ini hanya mengaktifkan 3,8B parameter saat inferensi,dan setelah kuantisasi dapat…
  • Mencapai 1000+ token/detik pada H100 dan 700+ token/detik pada RTX 5090,dengan kecepatan 4 kali…
  • Memiliki atensi dua arah dan kemampuan koreksi diri,ditujukan untuk alur kerja interaktif lokal…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Google DeepMind:Blog(RSS)
Kategori
Rilis Model
Skor AI
72
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: DiffusionGemma: model difusi sumber terbuka dengan kecepatan pembuatan teks 4 kali lebih tinggi. 11 Juni 2026. https://new.nat6.net/id/news/cmq8aoxud00ngslldd191n34b/

Lihat semua →