Tutorial dan petua

Apple tunjuk cara jalankan model besar 816B secara setempat pada kluster Mac Studio dengan MLX dan RDMA

Tajuk asal:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

Ringkasan AI

Pasukan penyelidikan pembelajaran mesin Apple menunjukkan cara menjalankan model termaju seperti Muse Spark Open yang hampir satu trilion parameter secara setempat pada Mac Studio, menggunakan MLX versi baharu yang dikeluarkan hari ini (bermula v0.30.1) dan pemacu RDMA over Thunderbolt dalam macOS 26.2.

Maklumat penting

  • Pasukan penyelidikan pembelajaran mesin Apple menunjukkan cara menjalankan model termaju seperti…
  • menggunakan MLX versi baharu yang dikeluarkan hari ini (bermula v0.
  • 1) dan pemacu RDMA over Thunderbolt dalam macOS 26.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Apple Machine Learning Research(RSS)
Kategori
Tutorial dan petua
Topik
Kejuruteraan penggunaanTutorial dan amalan
Skor AI
60
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

Topik berkaitan

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Apple tunjuk cara jalankan model besar 816B secara setempat pada kluster Mac Studio dengan MLX dan RDMA. 15 Oktober 2026. https://new.nat6.net/ms/news/j76j898zc7y8on4s10d4nvpan/

Lihat Semua →