Mga Papel at Pananaliksik

Pinabilis ng frozen multi-token prediction ang Gemini Nano model sa Pixel

Orihinal na pamagat:Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

AI summary

Nagmungkahi ang Google Research ng bagong arkitektura na nagbabago ng Multi-Token Prediction (MTP) sa naka-freeze nang Gemini Nano v3 model, upang mapabilis ang on-device inference sa Pixel 9 at 10 series. Ang pamamaraang ito ay batay sa EAGLE framework at CALM, na hindi na kailangang mag-train ng hiwalay na draft model na kumakain ng memory, at nakakamit ang acceleration sa pamamagitan ng 'late exit' strategy. Dahil dito, ang AI notification summary at proofreading features ay makabuluhang bumilis sa pag-generate ng teksto at bumaba ang energy consumption, at hindi na kailangang mag-fine-tune ng hiwalay na modelo ang mga developer para sa bawat bagong gawain.

Mahahalagang impormasyon

  • Nagmungkahi ang Google Research ng bagong arkitektura na nagbabago ng Multi-Token Prediction (MTP)…
  • Ang pamamaraang ito ay batay sa EAGLE framework at CALM,na hindi na kailangang mag-train ng…
  • Dahil dito,ang AI notification summary at proofreading features ay makabuluhang bumilis sa…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Google Research:Blog(网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
55
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Pinabilis ng frozen multi-token prediction ang Gemini Nano model sa Pixel. 26 Hunyo 2026. https://new.nat6.net/fil/news/cmqwtvowe0035slp023899gx2/

Tingnan lahat →