Inilabas ng Microsoft AI ang detalye ng pretraining ng MAI-Base-2, ang 2.8T parameter MoE model ay may FLOPs efficiency na 4.2 hanggang 12.3 beses ng DeepSeek-V4-Pro-Base
Orihinal na pamagat:Frontier Pre-training at Microsoft AI
AI summary
Inanunsyo ng Microsoft AI ang pagkumpleto ng pretraining ng MAI-Base-2, isang MoE base model na may 80 bilyong activated at 2.8T kabuuang parameter, na may BPB na mas mababa kaysa sa lahat ng nasubukang open-weight model sa held-out evaluation, at may pretraining FLOPs efficiency na 4.2 hanggang 12.3 beses na mas mataas kaysa DeepSeek-V4-Pro-Base.
Mahahalagang impormasyon
- Inanunsyo ng Microsoft AI ang pagkumpleto ng pretraining ng MAI-Base-2,isang MoE base model na may…
- 8T kabuuang parameter,na may BPB na mas mababa kaysa sa lahat ng nasubukang open-weight model sa…
- 2 hanggang 12.
- 3 beses na mas mataas kaysa DeepSeek-V4-Pro-Base.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Microsoft AI:官方博客(RSS)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 66
官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。
Mga kaugnay na paksa
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Inilabas ng Microsoft AI ang detalye ng pretraining ng MAI-Base-2, ang 2.8T parameter MoE model ay may FLOPs efficiency na 4.2 hanggang 12.3 beses ng DeepSeek-V4-Pro-Base. 16 Oktubre 2026. https://new.nat6.net/fil/news/f7ey01hbckuivmlgen9jq0vaf/