ModelBest phân tích cách lập lịch chuyên gia tiên đoán LES giúp MoE 35B chạy thời gian thực không mất mát trên thiết bị di động
Tiêu đề gốc:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术
Tóm tắt AI
Nhóm MiniCPM-V của ModelBest giới thiệu công nghệ lập lịch chuyên gia tiên đoán (LES) hỗ trợ MiniCPM-V 4.7 chạy trên thiết bị, cho biết lần đầu tiên đạt được MoE quy mô 35B-A3B chạy thời gian thực không mất mát trên thiết bị, với iPhone 18 Pro Max đo được tốc độ giải mã trên 20 token/s.
Thông tin chính
- Nhóm MiniCPM-V của ModelBest giới thiệu công nghệ lập lịch chuyên gia tiên đoán (LES) hỗ trợ…
- 7 chạy trên thiết bị,cho biết lần đầu tiên đạt được MoE quy mô 35B-A3B chạy thời gian thực không…
- với iPhone 18 Pro Max đo được tốc độ giải mã trên 20 token/s.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- 公众号:面壁智能(MiniCPM)
- Danh mục
- Hướng dẫn & mẹo
- Điểm AI
- 68
原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。
Chủ đề liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: ModelBest phân tích cách lập lịch chuyên gia tiên đoán LES giúp MoE 35B chạy thời gian thực không mất mát trên thiết bị di động. 20 tháng 10 2026. https://new.nat6.net/vi/news/m2ylwtzb8x49c32spfl1wplqz/