Apple สาธิตการรันโมเดลขนาดใหญ่ 816B ในเครื่องบนคลัสเตอร์ Mac Studio ด้วย MLX และ RDMA
หัวข้อต้นฉบับ:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
สรุปโดย AI
ทีมวิจัยแมชชีนเลิร์นนิงของ Apple สาธิตการรันโมเดล前沿อย่าง Muse Spark Open ที่มีพารามิเตอร์เกือบหนึ่งล้านล้านในเครื่องบน Mac Studio โดยใช้ MLX เวอร์ชันใหม่ (ตั้งแต่ v0.30.1) และไดรเวอร์ RDMA over Thunderbolt ของ macOS 26.2 ที่เผยแพร่วันนี้
ข้อมูลสำคัญ
- ทีมวิจัยแมชชีนเลิร์นนิงของ Apple สาธิตการรันโมเดล前沿อย่าง Muse Spark Open ที่มีพารามิเตอร์เกือบหนึ่ง…
- 1) และไดรเวอร์ RDMA over Thunderbolt ของ macOS 26.
- 2 ที่เผยแพร่วันนี้
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Apple Machine Learning Research(RSS)
- หมวดหมู่
- บทแนะนำและเทคนิค
- คะแนน AI
- 60
Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。
หัวข้อที่เกี่ยวข้อง
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Apple สาธิตการรันโมเดลขนาดใหญ่ 816B ในเครื่องบนคลัสเตอร์ Mac Studio ด้วย MLX และ RDMA 15 ตุลาคม 2026 https://new.nat6.net/th/news/j76j898zc7y8on4s10d4nvpan/