教程与技巧

面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

原文标题:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术

AI 摘要

面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。

关键信息

  • 面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.
  • 7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s
  • 原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署

速览

发布时间
更新时间
来源
公众号:面壁智能(MiniCPM)
分类
教程与技巧
主题
开源生态部署工程教程实践
AI 评分
68
阅读原文 前往信息源阅读完整正文
推荐理由

原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。

相关主题

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行。2026年10月20日。https://new.nat6.net/news/m2ylwtzb8x49c32spfl1wplqz/

查看全部 →