Apple tunjuk cara jalankan model besar 816B secara setempat pada kluster Mac Studio dengan MLX dan RDMA
Tajuk asal:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
Ringkasan AI
Pasukan penyelidikan pembelajaran mesin Apple menunjukkan cara menjalankan model termaju seperti Muse Spark Open yang hampir satu trilion parameter secara setempat pada Mac Studio, menggunakan MLX versi baharu yang dikeluarkan hari ini (bermula v0.30.1) dan pemacu RDMA over Thunderbolt dalam macOS 26.2.
Maklumat penting
- Pasukan penyelidikan pembelajaran mesin Apple menunjukkan cara menjalankan model termaju seperti…
- menggunakan MLX versi baharu yang dikeluarkan hari ini (bermula v0.
- 1) dan pemacu RDMA over Thunderbolt dalam macOS 26.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Tutorial dan petua
- Skor AI
- 60
Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。
Topik berkaitan
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Apple tunjuk cara jalankan model besar 816B secara setempat pada kluster Mac Studio dengan MLX dan RDMA. 15 Oktober 2026. https://new.nat6.net/ms/news/j76j898zc7y8on4s10d4nvpan/