Pormal nang open source ang Ling-3.0 tiny & flash Base Models
AI summary
Inilabas ng Ant Bailing bilang open source ang Ling-3.0-tiny-base at Ling-3.0-flash-base, at sabay na binuksan ang 6 na checkpoints kabilang ang pre-training, mid-training at WSM merging. Ang tiny-base ay may kabuuang 7.9B parameters at 1.3B activated parameters, habang ang flash-base ay may kabuuang 124B parameters at 5.1B activated parameters; pareho silang gumagamit ng unified training scheme at angkop para sa continuous pre-training, supervised fine-tuning, preference optimization at reinforcement learning post-training.
Mahahalagang impormasyon
- Inilabas ng Ant Bailing bilang open source ang Ling-3.
- 0-tiny-base at Ling-3.
- 0-flash-base,at sabay na binuksan ang 6 na checkpoints kabilang ang pre-training,mid-training at…
- Ang tiny-base ay may kabuuang 7.
- 9B parameters at 1.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- 公众号:蚂蚁百灵(Ling)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 68
Ling-3.0 开放中间 checkpoint 和 WSM 合并策略,研究者可比较各训练阶段增益,并在自己数据上从合适节点继续预训练或后训练,而不只是拿到最终权重。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Pormal nang open source ang Ling-3.0 tiny & flash Base Models. 20 Agosto 2026. https://new.nat6.net/fil/news/cmta7hu4g055groj2fuv1x60n/