Tutoriales y consejos

Apple demuestra la ejecución local de un modelo de 816B en un clúster de Mac Studio con MLX y RDMA

Título original:Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

Resumen de IA

El equipo de investigación de aprendizaje automático de Apple demuestra cómo ejecutar localmente en Mac Studio modelos frontera de casi un billón de parámetros, como Muse Spark Open, usando la nueva versión de MLX (a partir de v0.30.1) y el controlador RDMA over Thunderbolt de macOS 26.2, ambos publicados hoy.

Puntos clave

  • El equipo de investigación de aprendizaje automático de Apple demuestra cómo ejecutar localmente…
  • 1) y el controlador RDMA over Thunderbolt de macOS 26.
  • 2,ambos publicados hoy.

Resumen rápido

Publicado
Actualizado
Fuente
Apple Machine Learning Research(RSS)
Categoría
Tutoriales y consejos
Tema
Ingeniería de despliegueTutoriales y práctica
Puntuación IA
60
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

Temas

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Apple demuestra la ejecución local de un modelo de 816B en un clúster de Mac Studio con MLX y RDMA. 15. octubre 2026. https://new.nat6.net/es/news/j76j898zc7y8on4s10d4nvpan/

Ver todo →