Microsoft AI ungkap detail pra-pelatihan MAI-Base-2, model MoE 2,8T parameter dengan efisiensi FLOPs 4,2 hingga 12,3 kali DeepSeek-V4-Pro-Base
Judul asli:Frontier Pre-training at Microsoft AI
Ringkasan AI
Microsoft AI mengumumkan selesainya pra-pelatihan MAI-Base-2, model dasar MoE dengan 80 miliar parameter aktif dan 2,8T parameter total, yang BPB-nya pada evaluasi held-out lebih rendah daripada semua model open-weight yang diuji, dengan efisiensi FLOPs pra-pelatihan 4,2 hingga 12,3 kali lebih tinggi daripada DeepSeek-V4-Pro-Base.
Poin utama
- Microsoft AI mengumumkan selesainya pra-pelatihan MAI-Base-2,model dasar MoE dengan 80 miliar…
- 8T parameter total,yang BPB-nya pada evaluasi held-out lebih rendah daripada semua model…
- dengan efisiensi FLOPs pra-pelatihan 4,2 hingga 12,3 kali lebih tinggi daripada…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Microsoft AI:官方博客(RSS)
- Kategori
- Rilis Model
- Topik
- Rilis ModelMultimodal
- Skor AI
- 66
官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Microsoft AI ungkap detail pra-pelatihan MAI-Base-2, model MoE 2,8T parameter dengan efisiensi FLOPs 4,2 hingga 12,3 kali DeepSeek-V4-Pro-Base. 16 Oktober 2026. https://new.nat6.net/id/news/f7ey01hbckuivmlgen9jq0vaf/