Hướng dẫn & mẹo

ModelBest phân tích cách lập lịch chuyên gia tiên đoán LES giúp MoE 35B chạy thời gian thực không mất mát trên thiết bị di động

Tiêu đề gốc:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术

Tóm tắt AI

Nhóm MiniCPM-V của ModelBest giới thiệu công nghệ lập lịch chuyên gia tiên đoán (LES) hỗ trợ MiniCPM-V 4.7 chạy trên thiết bị, cho biết lần đầu tiên đạt được MoE quy mô 35B-A3B chạy thời gian thực không mất mát trên thiết bị, với iPhone 18 Pro Max đo được tốc độ giải mã trên 20 token/s.

Thông tin chính

  • Nhóm MiniCPM-V của ModelBest giới thiệu công nghệ lập lịch chuyên gia tiên đoán (LES) hỗ trợ…
  • 7 chạy trên thiết bị,cho biết lần đầu tiên đạt được MoE quy mô 35B-A3B chạy thời gian thực không…
  • với iPhone 18 Pro Max đo được tốc độ giải mã trên 20 token/s.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
公众号:面壁智能(MiniCPM)
Danh mục
Hướng dẫn & mẹo
Chủ đề
Hệ sinh thái mã nguồn mởKỹ thuật triển khaiHướng dẫn thực hành
Điểm AI
68
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。

Chủ đề liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: ModelBest phân tích cách lập lịch chuyên gia tiên đoán LES giúp MoE 35B chạy thời gian thực không mất mát trên thiết bị di động. 20 tháng 10 2026. https://new.nat6.net/vi/news/m2ylwtzb8x49c32spfl1wplqz/

Xem tất cả →