チュートリアル

Apple、MLX と RDMA で Mac Studio クラスタ上に 816B の大規模モデルをローカル実行するデモを公開

原題:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

AI 要約

Apple の機械学習研究チームは、Mac Studio 上でローカルに約 1 兆パラメータの Muse Spark Open などの最先端モデルを実行する方法を実演した。本日公開された新版 MLX(v0.30.1 以降)と macOS 26.2 の RDMA over Thunderbolt ドライバを使用している。

要点

  • Apple の機械学習研究チームは、Mac Studio 上でローカルに約 1 兆パラメータの Muse Spark Open などの最先端モデルを実行する方法を実演した。
  • 本日公開された新版 MLX(v0.
  • 1 以降)と macOS 26.
  • 2 の RDMA over Thunderbolt ドライバを使用している

概要

公開日時
更新日時
出典
Apple Machine Learning Research(RSS)
カテゴリ
チュートリアル
トピック
デプロイエンジニアリングチュートリアルと実践
AI スコア
60
原文を読む 情報源で全文を読む
おすすめの理由

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

関連トピック

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Apple、MLX と RDMA で Mac Studio クラスタ上に 816B の大規模モデルをローカル実行するデモを公開。2026年10月15日。https://new.nat6.net/ja/news/j76j898zc7y8on4s10d4nvpan/

すべて見る →