Ant inclusionAI、Ling-3.0シリーズの高効率言語基盤モデルをオープンソース化
原題:inclusionAI/Ling-3.0-flash-base
AI 要約
Ant inclusionAIはLing-3.0シリーズの言語基盤モデルをオープンソース化した。高度に疎な(1/64)MoEアーキテクチャを採用し、512個のルーティングエキスパートを備える。各トークンはルーティングエキスパート8個と共有エキスパート1個のみを活性化し、活性化パラメータはわずか5.1B(Non-emb)。
要点
- Ant inclusionAIはLing-3.
- 0シリーズの言語基盤モデルをオープンソース化した。
- 高度に疎な(1/64)MoEアーキテクチャを採用し、512個のルーティングエキスパートを備える。
- 各トークンはルーティングエキスパート8個と共有エキスパート1個のみを活性化し、活性化パラメータはわずか5.
- 1B(Non-emb)
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 64
おすすめの理由
WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Ant inclusionAI、Ling-3.0シリーズの高効率言語基盤モデルをオープンソース化。2026年8月11日。https://new.nat6.net/ja/news/cmt0aa8b416yyrodpws2xobnz/