Microsoft AI mendedahkan butiran prapelatihan MAI-Base-2, model MoE 2.8T parameter mencapai kecekapan FLOPs 4.2 hingga 12.3 kali DeepSeek-V4-Pro-Base
Tajuk asal:Frontier Pre-training at Microsoft AI
Ringkasan AI
Microsoft AI mengumumkan penyiapan pra-latihan MAI-Base-2, model asas MoE dengan 800 bilion parameter aktif dan 2.8T jumlah parameter, yang BPB-nya dalam penilaian held-out lebih rendah daripada semua model pemberat terbuka yang diuji, dan kecekapan FLOPs pra-latihannya 4.2 hingga 12.3 kali lebih tinggi daripada DeepSeek-V4-Pro-Base.
Maklumat penting
- Microsoft AI mengumumkan penyiapan pra-latihan MAI-Base-2,model asas MoE dengan 800 bilion…
- 8T jumlah parameter,yang BPB-nya dalam penilaian held-out lebih rendah daripada semua model…
- 2 hingga 12.
- 3 kali lebih tinggi daripada DeepSeek-V4-Pro-Base.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- Microsoft AI:官方博客(RSS)
- Kategori
- Pelancaran Model
- Skor AI
- 66
官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。
Topik berkaitan
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Microsoft AI mendedahkan butiran prapelatihan MAI-Base-2, model MoE 2.8T parameter mencapai kecekapan FLOPs 4.2 hingga 12.3 kali DeepSeek-V4-Pro-Base. 16 Oktober 2026. https://new.nat6.net/ms/news/f7ey01hbckuivmlgen9jq0vaf/