Makalah & Riset

Prediksi multi-token beku mempercepat model Gemini Nano di Pixel

Judul asli:Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

Ringkasan AI

Google Research mengusulkan arsitektur baru yang memodifikasi Multi-Token Prediction (MTP) pada model Gemini Nano v3 yang telah dibekukan untuk mempercepat inferensi di perangkat seri Pixel 9 dan 10. Metode ini berbasis kerangka EAGLE dan CALM, tidak memerlukan pelatihan model draf terpisah yang memakan memori, dan mencapai percepatan melalui strategi early exit. Fitur ringkasan notifikasi AI dan proofreading karenanya menghasilkan teks jauh lebih cepat dengan konsumsi energi lebih rendah, dan pengembang tidak perlu menyetel model terpisah untuk setiap tugas baru.

Poin utama

  • Google Research mengusulkan arsitektur baru yang memodifikasi Multi-Token Prediction (MTP) pada…
  • Metode ini berbasis kerangka EAGLE dan CALM,tidak memerlukan pelatihan model draf terpisah yang…
  • Fitur ringkasan notifikasi AI dan proofreading karenanya menghasilkan teks jauh lebih cepat dengan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Google Research:Blog(网页)
Kategori
Makalah & Riset
Skor AI
55
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Prediksi multi-token beku mempercepat model Gemini Nano di Pixel. 26 Juni 2026. https://new.nat6.net/id/news/cmqwtvowe0035slp023899gx2/

Lihat semua →