Microsoft AI công bố chi tiết tiền huấn luyện MAI-Base-2, mô hình MoE 2.8T tham số có hiệu suất FLOPs gấp 4.2 đến 12.3 lần DeepSeek-V4-Pro-Base
Tiêu đề gốc:Frontier Pre-training at Microsoft AI
Tóm tắt AI
Microsoft AI tuyên bố hoàn thành tiền huấn luyện MAI-Base-2, một mô hình nền tảng MoE với 80 tỷ tham số kích hoạt, tổng 2,8T tham số, có BPB thấp hơn tất cả mô hình trọng số mở được thử nghiệm trong đánh giá held-out, hiệu quả FLOPs tiền huấn luyện cao hơn DeepSeek-V4-Pro-Base từ 4,2 đến 12,3 lần.
Thông tin chính
- Microsoft AI tuyên bố hoàn thành tiền huấn luyện MAI-Base-2,một mô hình nền tảng MoE với 80 tỷ…
- 8T tham số,có BPB thấp hơn tất cả mô hình trọng số mở được thử nghiệm trong đánh giá held-out
- hiệu quả FLOPs tiền huấn luyện cao hơn DeepSeek-V4-Pro-Base từ 4,2 đến 12
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- Microsoft AI:官方博客(RSS)
- Danh mục
- Ra mắt mô hình
- Điểm AI
- 66
官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。
Chủ đề liên quan
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Microsoft AI công bố chi tiết tiền huấn luyện MAI-Base-2, mô hình MoE 2.8T tham số có hiệu suất FLOPs gấp 4.2 đến 12.3 lần DeepSeek-V4-Pro-Base. 16 tháng 10 2026. https://new.nat6.net/vi/news/f7ey01hbckuivmlgen9jq0vaf/