Apple mendemonstrasikan menjalankan model 816B secara lokal di kluster Mac Studio dengan MLX dan RDMA
Judul asli:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
Ringkasan AI
Tim riset machine learning Apple mendemonstrasikan cara menjalankan model frontier hampir satu triliun parameter seperti Muse Spark Open secara lokal di Mac Studio, menggunakan MLX versi baru (mulai v0.30.1) yang dirilis hari ini dan driver RDMA over Thunderbolt pada macOS 26.2.
Poin utama
- Tim riset machine learning Apple mendemonstrasikan cara menjalankan model frontier hampir satu…
- menggunakan MLX versi baru (mulai v0.
- 1) yang dirilis hari ini dan driver RDMA over Thunderbolt pada macOS 26.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Tutorial & Tips
- Skor AI
- 60
Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Apple mendemonstrasikan menjalankan model 816B secara lokal di kluster Mac Studio dengan MLX dan RDMA. 15 Oktober 2026. https://new.nat6.net/id/news/j76j898zc7y8on4s10d4nvpan/