फ़्रोज़न मल्टी-टोकन प्रेडिक्शन से Pixel पर Gemini Nano मॉडल तेज़
मूल शीर्षक:Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
AI सारांश
Google Research ने एक नई आर्किटेक्चर प्रस्तावित की है, जो पहले से फ़्रोज़न Gemini Nano v3 मॉडल पर Multi-Token Prediction (MTP) को रूपांतरित करके Pixel 9 और 10 श्रृंखला पर ऑन-डिवाइस अनुमान को तेज़ करती है। यह विधि EAGLE फ्रेमवर्क और CALM पर आधारित है, और मेमोरी लेने वाले अलग ड्राफ़्ट मॉडल को प्रशिक्षित किए बिना "लेट एग्ज़िट" रणनीति से गति बढ़ाती है। इससे AI नोटिफ़िकेशन सारांश और प्रूफ़रीडिंग सुविधाओं में टेक्स्ट उत्पन्न करने की गति काफ़ी बढ़ी है और ऊर्जा खपत घटी है; डेवलपर्स को प्रत्येक नए कार्य के लिए अलग मॉडल को फ़ाइन-ट्यून करने की आवश्यकता नहीं है।
मुख्य जानकारी
- Google Research ने एक नई आर्किटेक्चर प्रस्तावित की है,जो पहले से फ़्रोज़न Gemini Nano v3 मॉडल पर…
- और मेमोरी लेने वाले अलग ड्राफ़्ट मॉडल को प्रशिक्षित किए बिना "लेट एग्ज़िट" रणनीति से गति बढ़ाती…
- डेवलपर्स को प्रत्येक नए कार्य के लिए अलग मॉडल को फ़ाइन-ट्यून करने की आवश्यकता नहीं है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- Google Research:Blog(网页)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 55
谷歌这篇技术博客值得端侧开发者细读,他们把多令牌预测硬是装进了已部署的 Nano 模型,Pixel 上生成加速五成,还省了 130MB 内存,零拷贝架构的想法挺巧,但没法直接复现,主要是开脑洞用的。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: फ़्रोज़न मल्टी-टोकन प्रेडिक्शन से Pixel पर Gemini Nano मॉडल तेज़। 26 जून 2026। https://new.nat6.net/hi/news/cmqwtvowe0035slp023899gx2/