DiffusionGemma: model difusi sumber terbuka dengan kecepatan pembuatan teks 4 kali lebih tinggi
Judul asli:DiffusionGemma: 4x faster text generation
Ringkasan AI
Google DeepMind merilis model eksperimental sumber terbuka DiffusionGemma yang menggunakan teknologi difusi teks, menerobos cara pembuatan token demi token autoregresif dengan menghasilkan 256 token secara paralel dalam setiap forward pass. Model MoE 26B ini hanya mengaktifkan 3,8B parameter saat inferensi, dan setelah kuantisasi dapat berjalan pada GPU konsumen dengan memori 18GB. Mencapai 1000+ token/detik pada H100 dan 700+ token/detik pada RTX 5090, dengan kecepatan 4 kali lebih tinggi. Memiliki atensi dua arah dan kemampuan koreksi diri, ditujukan untuk alur kerja interaktif lokal seperti pengeditan inline dan pengisian kode, serta dirilis dengan lisensi Apache 2.0.
Poin utama
- Google DeepMind merilis model eksperimental sumber terbuka DiffusionGemma yang menggunakan…
- Model MoE 26B ini hanya mengaktifkan 3,8B parameter saat inferensi,dan setelah kuantisasi dapat…
- Mencapai 1000+ token/detik pada H100 dan 700+ token/detik pada RTX 5090,dengan kecepatan 4 kali…
- Memiliki atensi dua arah dan kemampuan koreksi diri,ditujukan untuk alur kerja interaktif lokal…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Google DeepMind:Blog(RSS)
- Kategori
- Rilis Model
- Skor AI
- 72
DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: DiffusionGemma: model difusi sumber terbuka dengan kecepatan pembuatan teks 4 kali lebih tinggi. 11 Juni 2026. https://new.nat6.net/id/news/cmq8aoxud00ngslldd191n34b/