Туториалы и советы

ModelBest объяснила, как упреждающее планирование экспертов LES обеспечивает работу 35B MoE на смартфоне в реальном времени без потерь

Оригинальный заголовок:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术

ИИ-резюме

Команда MiniCPM-V компании ModelBest представила технологию упреждающего планирования экспертов (LES), обеспечивающую работу MiniCPM-V 4.7 на устройстве. По её данным, впервые достигнута работа MoE масштаба 35B-A3B на устройстве в реальном времени без потерь: на iPhone 18 Pro Max декодирование превышает 20 token/s.

Ключевые моменты

  • Команда MiniCPM-V компании ModelBest представила технологию упреждающего планирования экспертов…
  • 7 на устройстве.
  • По её данным,впервые достигнута работа MoE масштаба 35B-A3B на устройстве в реальном времени без…

Кратко

Опубликовано
Обновлено
Источник
公众号:面壁智能(MiniCPM)
Категория
Туториалы и советы
Тема
Экосистема открытого кодаИнженерия развёртыванияТуториалы и практика
Оценка ИИ
68
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。

Темы

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: ModelBest объяснила, как упреждающее планирование экспертов LES обеспечивает работу 35B MoE на смартфоне в реальном времени без потерь. 20 октября 2026. https://new.nat6.net/ru/news/m2ylwtzb8x49c32spfl1wplqz/

Смотреть все →