Tutoriels et astuces

Accélérer l'IA embarquée : les optimisations d'Arm et Google AI Edge

Titre original:Accelerating on-device AI: A look at Arm and Google AI Edge optimization

Résumé IA

L'extension matricielle évolutive de deuxième génération d'Arm (SME2) s'intègre à la pile logicielle Google AI Edge pour transformer le CPU en un puissant accélérateur de calcul matriciel, permettant ainsi une IA générative embarquée hautes performances. Cet article prend comme exemple le modèle « stable-audio-open-small » de Stability AI pour présenter un processus automatisé d'accélération matérielle « convertir, optimiser, déployer » construit avec LiteRT, XNNPACK et KleidiAI. Cette solution a permis, sur des appareils mobiles et des ordinateurs portables basés sur l'architecture Arm, d'obtenir une génération audio plus de 2 fois plus rapide et une utilisation de mémoire réduite de 4 fois, tout en garantissant une qualité audio élevée. Cette intégration offre une voie efficace pour exécuter efficacement des modèles d'IA complexes sur des appareils de périphérie aux ressources limitées.

Points clés

  • L'extension matricielle évolutive de deuxième génération d'Arm (SME2) s'intègre à la pile…
  • Cet article prend comme exemple le modèle « stable-audio-open-small » de Stability AI pour…
  • Cette solution a permis,sur des appareils mobiles et des ordinateurs portables basés sur…
  • Cette intégration offre une voie efficace pour exécuter efficacement des modèles d'IA complexes…

En bref

Publié
Mis à jour
Source
Google Developers Blog(RSS)
Catégorie
Tutoriels et astuces
Score IA
63
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Google 和 Arm 在设备端 AI 上的联合优化案例很具体,给了开发者一套可复制的流程,2x 加速和 4x 内存节省对于做移动端生成式 AI 的人来说值得动手试一下。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Accélérer l'IA embarquée : les optimisations d'Arm et Google AI Edge. 14. mai 2026. https://new.nat6.net/fr/news/cmp5onyyq0g18sljx0tw3l6ls/

Tout voir →