Paglabas ng modelo

Inilabas ng Microsoft AI ang detalye ng pretraining ng MAI-Base-2, ang 2.8T parameter MoE model ay may FLOPs efficiency na 4.2 hanggang 12.3 beses ng DeepSeek-V4-Pro-Base

Orihinal na pamagat:Frontier Pre-training at Microsoft AI

AI summary

Inanunsyo ng Microsoft AI ang pagkumpleto ng pretraining ng MAI-Base-2, isang MoE base model na may 80 bilyong activated at 2.8T kabuuang parameter, na may BPB na mas mababa kaysa sa lahat ng nasubukang open-weight model sa held-out evaluation, at may pretraining FLOPs efficiency na 4.2 hanggang 12.3 beses na mas mataas kaysa DeepSeek-V4-Pro-Base.

Mahahalagang impormasyon

  • Inanunsyo ng Microsoft AI ang pagkumpleto ng pretraining ng MAI-Base-2,isang MoE base model na may…
  • 8T kabuuang parameter,na may BPB na mas mababa kaysa sa lahat ng nasubukang open-weight model sa…
  • 2 hanggang 12.
  • 3 beses na mas mataas kaysa DeepSeek-V4-Pro-Base.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Microsoft AI:官方博客(RSS)
Kategorya
Paglabas ng modelo
Paksa
Paglabas ng mga modeloMultimodal
AI na marka
66
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。

Mga kaugnay na paksa

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inilabas ng Microsoft AI ang detalye ng pretraining ng MAI-Base-2, ang 2.8T parameter MoE model ay may FLOPs efficiency na 4.2 hanggang 12.3 beses ng DeepSeek-V4-Pro-Base. 16 Oktubre 2026. https://new.nat6.net/fil/news/f7ey01hbckuivmlgen9jq0vaf/

Tingnan lahat →