Tutorials & Tipps

On-Device-KI beschleunigen: Optimierungspraktiken von Arm und Google AI Edge

Originaltitel:Accelerating on-device AI: A look at Arm and Google AI Edge optimization

KI-Zusammenfassung

Die zweite Generation der Scalable Matrix Extension (SME2) von Arm ist in den Google-AI-Edge-Software-Stack integriert und verwandelt die CPU in einen leistungsstarken Matrixberechnungsbeschleuniger, um generative On-Device-KI mit hoher Leistung zu ermöglichen. Der Beitrag erläutert am Beispiel des Modells „stable-audio-open-small“ von Stability AI einen automatisierten Hardwarebeschleunigungsprozess aus „Konvertieren, Optimieren, Bereitstellen“, der mit LiteRT, XNNPACK und KleidiAI aufgebaut wurde. Die Lösung erzielt auf Arm-basierten Mobilgeräten und Laptops eine mehr als zweifache Beschleunigung der Audiogenerierung und eine vierfache Reduzierung des Speicherverbrauchs bei gleichzeitig hoher Audioqualität. Die Integration bietet einen effektiven Weg, komplexe KI-Modelle effizient auf ressourcenbeschränkten Edge-Geräten auszuführen.

Kernpunkte

  • Die zweite Generation der Scalable Matrix Extension (SME2) von Arm ist in den…
  • Der Beitrag erläutert am Beispiel des Modells „stable-audio-open-small“ von Stability AI einen…
  • Die Lösung erzielt auf Arm-basierten Mobilgeräten und Laptops eine mehr als zweifache…
  • Die Integration bietet einen effektiven Weg,komplexe KI-Modelle effizient auf…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Google Developers Blog(RSS)
Kategorie
Tutorials & Tipps
KI-Bewertung
63
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Google 和 Arm 在设备端 AI 上的联合优化案例很具体,给了开发者一套可复制的流程,2x 加速和 4x 内存节省对于做移动端生成式 AI 的人来说值得动手试一下。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: On-Device-KI beschleunigen: Optimierungspraktiken von Arm und Google AI Edge. 14. Mai 2026. https://new.nat6.net/de/news/cmp5onyyq0g18sljx0tw3l6ls/

Alle ansehen →