Релизы моделей

Microsoft AI раскрыла детали предобучения MAI-Base-2: MoE-модель на 2,8T параметров превосходит DeepSeek-V4-Pro-Base по FLOPs-эффективности в 4,2–12,3 раза

Оригинальный заголовок:Frontier Pre-training at Microsoft AI

ИИ-резюме

Microsoft AI объявила о завершении предобучения MAI-Base-2 — базовой MoE-модели с 80 млрд активных и 2,8T общих параметров. В held-out-оценке её BPB ниже, чем у всех протестированных моделей с открытыми весами, а FLOPs-эффективность предобучения в 4,2–12,3 раза выше, чем у DeepSeek-V4-Pro-Base.

Ключевые моменты

  • Microsoft AI объявила о завершении предобучения MAI-Base-2 — базовой MoE-модели с 80 млрд активных…
  • В held-out-оценке её BPB ниже,чем у всех протестированных моделей с открытыми весами
  • а FLOPs-эффективность предобучения в 4,3 раза выше,чем у DeepSeek-V4-Pro-Base.

Кратко

Опубликовано
Обновлено
Источник
Microsoft AI:官方博客(RSS)
Категория
Релизы моделей
Тема
Выпуск моделейМультимодальность
Оценка ИИ
66
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Microsoft AI раскрыла детали предобучения MAI-Base-2: MoE-модель на 2,8T параметров превосходит DeepSeek-V4-Pro-Base по FLOPs-эффективности в 4,2–12,3 раза. 16 октября 2026. https://new.nat6.net/ru/news/f7ey01hbckuivmlgen9jq0vaf/

Смотреть все →