ट्यूटोरियल और टिप्स

Apple ने Mac Studio क्लस्टर पर MLX और RDMA का उपयोग करके 816B बड़ा भाषा मॉडल चलाने का प्रदर्शन किया

मूल शीर्षक:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

AI सारांश

Apple की मशीन लर्निंग रिसर्च टीम ने दिखाया कि कैसे Mac Studio पर 816B पैरामीटर वाले Muse Spark Open जैसे अत्याधुनिक मॉडल स्थानीय रूप से चलाए जा सकते हैं। इसमें आज जारी MLX (v0.30.1 और उसके बाद) के नए संस्करण और macOS 26.2 के RDMA over Thunderbolt ड्राइवर का उपयोग किया गया है।

मुख्य जानकारी

  • Apple की मशीन लर्निंग रिसर्च टीम ने दिखाया कि कैसे Mac Studio पर 816B पैरामीटर वाले Muse Spark…
  • 1 और उसके बाद) के नए संस्करण और macOS 26.
  • 2 के RDMA over Thunderbolt ड्राइवर का उपयोग किया गया है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Apple Machine Learning Research(RSS)
श्रेणी
ट्यूटोरियल और टिप्स
विषय
डिप्लॉयमेंट इंजीनियरिंगट्यूटोरियल और अभ्यास
AI स्कोर
60
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

संबंधित विषय

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Apple ने Mac Studio क्लस्टर पर MLX और RDMA का उपयोग करके 816B बड़ा भाषा मॉडल चलाने का प्रदर्शन किया। 15 अक्टूबर 2026। https://new.nat6.net/hi/news/j76j898zc7y8on4s10d4nvpan/

सभी देखें →