Apple demuestra la ejecución local de un modelo de 816B en un clúster de Mac Studio con MLX y RDMA
Título original:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
Resumen de IA
El equipo de investigación de aprendizaje automático de Apple demuestra cómo ejecutar localmente en Mac Studio modelos frontera de casi un billón de parámetros, como Muse Spark Open, usando la nueva versión de MLX (a partir de v0.30.1) y el controlador RDMA over Thunderbolt de macOS 26.2, ambos publicados hoy.
Puntos clave
- El equipo de investigación de aprendizaje automático de Apple demuestra cómo ejecutar localmente…
- 1) y el controlador RDMA over Thunderbolt de macOS 26.
- 2,ambos publicados hoy.
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Tutoriales y consejos
- Puntuación IA
- 60
Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Apple demuestra la ejecución local de un modelo de 816B en un clúster de Mac Studio con MLX y RDMA. 15. octubre 2026. https://new.nat6.net/es/news/j76j898zc7y8on4s10d4nvpan/