Ant inclusionAI veröffentlicht Open-Source-Sprachbasismodelle der Ling-3.0-Serie
Originaltitel:inclusionAI/Ling-3.0-flash-base
KI-Zusammenfassung
Ant inclusionAI hat die Sprachbasismodelle der Ling-3.0-Serie als Open Source veröffentlicht. Sie nutzen eine hochgradig sparse MoE-Architektur (1/64) mit 512 Routing-Experten, wobei pro Token nur 8 Routing-Experten und 1 Shared Expert aktiviert werden; die aktivierten Parameter betragen nur 5,1B (Non-emb).
Kernpunkte
- Ant inclusionAI hat die Sprachbasismodelle der Ling-3.
- 0-Serie als Open Source veröffentlicht.
- Sie nutzen eine hochgradig sparse MoE-Architektur (1/64) mit 512 Routing-Experten,wobei pro Token…
- die aktivierten Parameter betragen nur 5,1B (Non-emb).
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Modellveröffentlichungen
- KI-Bewertung
- 64
WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Ant inclusionAI veröffentlicht Open-Source-Sprachbasismodelle der Ling-3.0-Serie. 11. August 2026. https://new.nat6.net/de/news/cmt0aa8b416yyrodpws2xobnz/