Tutoriels et astuces

Apple démontre l'exécution locale d'un grand modèle de 816B sur un cluster de Mac Studio avec MLX et RDMA

Titre original:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

Résumé IA

L'équipe de recherche en machine learning d'Apple démontre l'exécution locale sur Mac Studio de modèles de pointe proches du billion de paramètres, comme Muse Spark Open, grâce à la nouvelle version de MLX (à partir de la v0.30.1) et au pilote RDMA over Thunderbolt de macOS 26.2.

Points clés

  • L'équipe de recherche en machine learning d'Apple démontre l'exécution locale sur Mac Studio de…
  • comme Muse Spark Open,grâce à la nouvelle version de MLX (à partir de la v0.
  • 1) et au pilote RDMA over Thunderbolt de macOS 26.

En bref

Publié
Mis à jour
Source
Apple Machine Learning Research(RSS)
Catégorie
Tutoriels et astuces
Sujet
Ingénierie de déploiementTutoriels et pratique
Score IA
60
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

Sujets

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Apple démontre l'exécution locale d'un grand modèle de 816B sur un cluster de Mac Studio avec MLX et RDMA. 15. octobre 2026. https://new.nat6.net/fr/news/j76j898zc7y8on4s10d4nvpan/

Tout voir →