ट्यूटोरियल और टिप्स

डिवाइस पर AI को तेज करना: Arm और Google AI Edge का अनुकूलन अभ्यास

मूल शीर्षक:Accelerating on-device AI: A look at Arm and Google AI Edge optimization

AI सारांश

Arm की दूसरी पीढ़ी की स्केलेबल मैट्रिक्स एक्सटेंशन (SME2) को Google AI Edge सॉफ्टवेयर स्टैक के साथ एकीकृत किया गया है, जिससे CPU एक शक्तिशाली मैट्रिक्स कंप्यूटेशन एक्सेलेरेटर में बदल जाता है और उच्च-प्रदर्शन वाला डिवाइस पर जनरेटिव AI संभव होता है। यह लेख Stability AI के “stable-audio-open-small” मॉडल के उदाहरण से LiteRT, XNNPACK और KleidiAI का उपयोग करके बनाई गई “रूपांतरण, अनुकूलन, परिनियोजन” स्वचालित हार्डवेयर त्वरण प्रक्रिया का वर्णन करता है। यह समाधान Arm आर्किटेक्चर आधारित मोबाइल उपकरणों और लैपटॉप पर ऑडियो जनरेशन की गति को 2 गुना से अधिक बढ़ाने और मेमोरी उपयोग को 4 गुना कम करने में सफल रहा है, साथ ही उच्च ऑडियो गुणवत्ता सुनिश्चित करता है। यह एकीकृत समाधान संसाधन-सीमित एज डिवाइस पर जटिल AI मॉडल को कुशलता से चलाने का प्रभावी मार्ग प्रदान करता है।

मुख्य जानकारी

  • Arm की दूसरी पीढ़ी की स्केलेबल मैट्रिक्स एक्सटेंशन (SME2) को Google AI Edge सॉफ्टवेयर स्टैक के साथ…
  • XNNPACK और KleidiAI का उपयोग करके बनाई गई “रूपांतरण
  • परिनियोजन” स्वचालित हार्डवेयर त्वरण प्रक्रिया का वर्णन करता है। यह समाधान Arm आर्किटेक्चर आधारित…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Google Developers Blog(RSS)
श्रेणी
ट्यूटोरियल और टिप्स
AI स्कोर
63
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

Google 和 Arm 在设备端 AI 上的联合优化案例很具体,给了开发者一套可复制的流程,2x 加速和 4x 内存节省对于做移动端生成式 AI 的人来说值得动手试一下。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: डिवाइस पर AI को तेज करना: Arm और Google AI Edge का अनुकूलन अभ्यास। 14 मई 2026। https://new.nat6.net/hi/news/cmp5onyyq0g18sljx0tw3l6ls/

सभी देखें →