教程与技巧

Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

原文标题:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

AI 摘要

Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.30.1 起)与 macOS 26.2 的 RDMA over Thunderbolt 驱动。

关键信息

  • Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.
  • 1 起)与 macOS 26.
  • 2 的 RDMA over Thunderbolt 驱动
  • Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践

速览

发布时间
更新时间
来源
Apple Machine Learning Research(RSS)
分类
教程与技巧
主题
部署工程教程实践
AI 评分
60
阅读原文 前往信息源阅读完整正文
推荐理由

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

相关主题

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型。2026年10月15日。https://new.nat6.net/news/j76j898zc7y8on4s10d4nvpan/

查看全部 →