Ant inclusionAI открывает исходный код серии эффективных языковых базовых моделей Ling-3.0
Оригинальный заголовок:inclusionAI/Ling-3.0-flash-base
ИИ-резюме
Ant inclusionAI открыла исходный код серии языковых базовых моделей Ling-3.0. Архитектура — высокоразреженный MoE (1/64) с 512 маршрутизируемыми экспертами; на каждый токен активируются только 8 маршрутизируемых и 1 общий эксперт, активные параметры — всего 5.1B (Non-emb).
Ключевые моменты
- Ant inclusionAI открыла исходный код серии языковых базовых моделей Ling-3.
- Архитектура — высокоразреженный MoE (1/64) с 512 маршрутизируемыми экспертами
- на каждый токен активируются только 8 маршрутизируемых и 1 общий эксперт,активные параметры —…
- 1B (Non-emb).
Кратко
- Опубликовано
- Обновлено
- Источник
- 蚂蚁 inclusionAI:HuggingFace 新模型
- Категория
- Релизы моделей
- Оценка ИИ
- 64
WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Ant inclusionAI открывает исходный код серии эффективных языковых базовых моделей Ling-3.0. 11 августа 2026. https://new.nat6.net/ru/news/cmt0aa8b416yyrodpws2xobnz/