面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行
原文标题:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术
AI 摘要
面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。
关键信息
- 面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.
- 7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s
- 原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署
速览
- 发布时间
- 更新时间
- 分类
- 教程与技巧
- AI 评分
- 68
推荐理由
原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行。2026年10月20日。https://new.nat6.net/news/m2ylwtzb8x49c32spfl1wplqz/