Microsoft AI、MAI-Base-2の事前トレーニング詳細を公開、2.8TパラメータMoEモデルのFLOPs効率がDeepSeek-V4-Pro-Baseの4.2~12.3倍
原題:Frontier Pre-training at Microsoft AI
AI 要約
Microsoft AIはMAI-Base-2の事前トレーニング完了を発表した。800億アクティブ、2.8T総パラメータのMoE基盤モデルで、held-out評価でBPBがテストした全オープンウェイトモデルを下回り、事前トレーニングのFLOPs効率はDeepSeek-V4-Pro-Baseの4.2~12.3倍高い。
要点
- Microsoft AIはMAI-Base-2の事前トレーニング完了を発表した。
- 800億アクティブ、2.
- 8T総パラメータのMoE基盤モデルで、held-out評価でBPBがテストした全オープンウェイトモデルを下回り、事前トレーニングのFLOPs効率はDeepSeek-V4-Pro-Baseの4.
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 66
おすすめの理由
官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Microsoft AI、MAI-Base-2の事前トレーニング詳細を公開、2.8TパラメータMoEモデルのFLOPs効率がDeepSeek-V4-Pro-Baseの4.2~12.3倍。2026年10月16日。https://new.nat6.net/ja/news/f7ey01hbckuivmlgen9jq0vaf/