บทแนะนำและเทคนิค

Apple สาธิตการรันโมเดลขนาดใหญ่ 816B ในเครื่องบนคลัสเตอร์ Mac Studio ด้วย MLX และ RDMA

หัวข้อต้นฉบับ:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

สรุปโดย AI

ทีมวิจัยแมชชีนเลิร์นนิงของ Apple สาธิตการรันโมเดล前沿อย่าง Muse Spark Open ที่มีพารามิเตอร์เกือบหนึ่งล้านล้านในเครื่องบน Mac Studio โดยใช้ MLX เวอร์ชันใหม่ (ตั้งแต่ v0.30.1) และไดรเวอร์ RDMA over Thunderbolt ของ macOS 26.2 ที่เผยแพร่วันนี้

ข้อมูลสำคัญ

  • ทีมวิจัยแมชชีนเลิร์นนิงของ Apple สาธิตการรันโมเดล前沿อย่าง Muse Spark Open ที่มีพารามิเตอร์เกือบหนึ่ง…
  • 1) และไดรเวอร์ RDMA over Thunderbolt ของ macOS 26.
  • 2 ที่เผยแพร่วันนี้

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Apple Machine Learning Research(RSS)
หมวดหมู่
บทแนะนำและเทคนิค
หัวข้อ
วิศวกรรมการติดตั้งใช้งานบทเรียนและการปฏิบัติ
คะแนน AI
60
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

หัวข้อที่เกี่ยวข้อง

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Apple สาธิตการรันโมเดลขนาดใหญ่ 816B ในเครื่องบนคลัสเตอร์ Mac Studio ด้วย MLX และ RDMA 15 ตุลาคม 2026 https://new.nat6.net/th/news/j76j898zc7y8on4s10d4nvpan/

ดูทั้งหมด →