Open source ng inclusionAI ng Ant ang Ling-3.0 series efficient language base models
Orihinal na pamagat:inclusionAI/Ling-3.0-flash-base
AI summary
Open source ng inclusionAI ng Ant ang Ling-3.0 series language base models, gumagamit ng highly sparse (1/64) MoE architecture, may 512 routed experts, 8 routed experts at 1 shared expert lamang ang aktibo bawat token, 5.1B (Non-emb) lamang ang active parameters.
Mahahalagang impormasyon
- Open source ng inclusionAI ng Ant ang Ling-3.
- 0 series language base models,gumagamit ng highly sparse (1/64) MoE architecture,may 512 routed…
- 1B (Non-emb) lamang ang active parameters.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- 蚂蚁 inclusionAI:HuggingFace 新模型
- Kategorya
- Paglabas ng modelo
- AI na marka
- 64
WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Open source ng inclusionAI ng Ant ang Ling-3.0 series efficient language base models. 11 Agosto 2026. https://new.nat6.net/fil/news/cmt0aa8b416yyrodpws2xobnz/