ModelBest объяснила, как упреждающее планирование экспертов LES обеспечивает работу 35B MoE на смартфоне в реальном времени без потерь
Оригинальный заголовок:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术
ИИ-резюме
Команда MiniCPM-V компании ModelBest представила технологию упреждающего планирования экспертов (LES), обеспечивающую работу MiniCPM-V 4.7 на устройстве. По её данным, впервые достигнута работа MoE масштаба 35B-A3B на устройстве в реальном времени без потерь: на iPhone 18 Pro Max декодирование превышает 20 token/s.
Ключевые моменты
- Команда MiniCPM-V компании ModelBest представила технологию упреждающего планирования экспертов…
- 7 на устройстве.
- По её данным,впервые достигнута работа MoE масштаба 35B-A3B на устройстве в реальном времени без…
Кратко
- Опубликовано
- Обновлено
- Источник
- 公众号:面壁智能(MiniCPM)
- Категория
- Туториалы и советы
- Оценка ИИ
- 68
原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。
Темы
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: ModelBest объяснила, как упреждающее планирование экспертов LES обеспечивает работу 35B MoE на смартфоне в реальном времени без потерь. 20 октября 2026. https://new.nat6.net/ru/news/m2ylwtzb8x49c32spfl1wplqz/