Релизы моделей

Ant inclusionAI открывает исходный код серии эффективных языковых базовых моделей Ling-3.0

Оригинальный заголовок:inclusionAI/Ling-3.0-flash-base

ИИ-резюме

Ant inclusionAI открыла исходный код серии языковых базовых моделей Ling-3.0. Архитектура — высокоразреженный MoE (1/64) с 512 маршрутизируемыми экспертами; на каждый токен активируются только 8 маршрутизируемых и 1 общий эксперт, активные параметры — всего 5.1B (Non-emb).

Ключевые моменты

  • Ant inclusionAI открыла исходный код серии языковых базовых моделей Ling-3.
  • Архитектура — высокоразреженный MoE (1/64) с 512 маршрутизируемыми экспертами
  • на каждый токен активируются только 8 маршрутизируемых и 1 общий эксперт,активные параметры —…
  • 1B (Non-emb).

Кратко

Опубликовано
Обновлено
Источник
蚂蚁 inclusionAI:HuggingFace 新模型
Категория
Релизы моделей
Оценка ИИ
64
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Ant inclusionAI открывает исходный код серии эффективных языковых базовых моделей Ling-3.0. 11 августа 2026. https://new.nat6.net/ru/news/cmt0aa8b416yyrodpws2xobnz/

Смотреть все →