Apple trình diễn chạy cục bộ mô hình lớn 816B trên cụm Mac Studio bằng MLX và RDMA
Tiêu đề gốc:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
Tóm tắt AI
Nhóm nghiên cứu học máy của Apple trình diễn cách chạy cục bộ trên Mac Studio các mô hình tiên tiến gần một nghìn tỷ tham số như Muse Spark Open, sử dụng MLX phiên bản mới phát hành hôm nay (từ v0.30.1) và trình điều khiển RDMA over Thunderbolt của macOS 26.2.
Thông tin chính
- Nhóm nghiên cứu học máy của Apple trình diễn cách chạy cục bộ trên Mac Studio các mô hình tiên…
- sử dụng MLX phiên bản mới phát hành hôm nay (từ v0.
- 1) và trình điều khiển RDMA over Thunderbolt của macOS 26.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Hướng dẫn & mẹo
- Điểm AI
- 60
Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Apple trình diễn chạy cục bộ mô hình lớn 816B trên cụm Mac Studio bằng MLX và RDMA. 15 tháng 10 2026. https://new.nat6.net/vi/news/j76j898zc7y8on4s10d4nvpan/