Apple démontre l'exécution locale d'un grand modèle de 816B sur un cluster de Mac Studio avec MLX et RDMA
Titre original:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
Résumé IA
L'équipe de recherche en machine learning d'Apple démontre l'exécution locale sur Mac Studio de modèles de pointe proches du billion de paramètres, comme Muse Spark Open, grâce à la nouvelle version de MLX (à partir de la v0.30.1) et au pilote RDMA over Thunderbolt de macOS 26.2.
Points clés
- L'équipe de recherche en machine learning d'Apple démontre l'exécution locale sur Mac Studio de…
- comme Muse Spark Open,grâce à la nouvelle version de MLX (à partir de la v0.
- 1) et au pilote RDMA over Thunderbolt de macOS 26.
En bref
- Publié
- Mis à jour
- Catégorie
- Tutoriels et astuces
- Score IA
- 60
Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Apple démontre l'exécution locale d'un grand modèle de 816B sur un cluster de Mac Studio avec MLX et RDMA. 15. octobre 2026. https://new.nat6.net/fr/news/j76j898zc7y8on4s10d4nvpan/