บทแนะนำและเทคนิค

เร่ง AI บนอุปกรณ์: แนวปฏิบัติการปรับแต่งของ Arm และ Google AI Edge

หัวข้อต้นฉบับ:Accelerating on-device AI: A look at Arm and Google AI Edge optimization

สรุปโดย AI

Arm Scalable Matrix Extension รุ่นที่สอง (SME2) ผสานกับสแต็กซอฟต์แวร์ Google AI Edge เปลี่ยน CPU ให้เป็นตัวเร่งการคำนวณเมทริกซ์ที่ทรงพลัง เพื่อให้ได้ Generative AI บนอุปกรณ์ที่มีประสิทธิภาพสูง บทความนี้ยกตัวอย่างโมเดล "stable-audio-open-small" ของ Stability AI อธิบายกระบวนการเร่งฮาร์ดแวร์อัตโนมัติแบบ "แปลง ปรับแต่ง déployer" ที่สร้างด้วย LiteRT, XNNPACK และ KleidiAI โซลูชันนี้ประสบความสำเร็จบนอุปกรณ์มือถือและแล็ปท็อปสถาปัตยกรรม Arm โดยเพิ่มความเร็วการสร้างเสียงได้มากกว่า 2 เท่า ลดการใช้หน่วยความจำ 4 เท่า พร้อมรับประกันคุณภาพเสียงสูง การผสานรวมนี้เป็นเส้นทางที่มีประสิทธิภาพสำหรับการรันโมเดล AI ที่ซับซ้อนบนอุปกรณ์ Edge ที่มีทรัพยากรจำกัด

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Google Developers Blog(RSS)
หมวดหมู่
บทแนะนำและเทคนิค
คะแนน AI
63
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

Google 和 Arm 在设备端 AI 上的联合优化案例很具体,给了开发者一套可复制的流程,2x 加速和 4x 内存节省对于做移动端生成式 AI 的人来说值得动手试一下。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: เร่ง AI บนอุปกรณ์: แนวปฏิบัติการปรับแต่งของ Arm และ Google AI Edge 14 พฤษภาคม 2026 https://new.nat6.net/th/news/cmp5onyyq0g18sljx0tw3l6ls/

ดูทั้งหมด →