inclusionAI Ant Group Merilis Sumber Terbuka Model Bahasa Dasar Seri Ling-3.0
Judul asli:inclusionAI/Ling-3.0-tiny-base
Ringkasan AI
inclusionAI Ant Group merilis sumber terbuka model bahasa dasar seri Ling-3.0, mencakup dua ukuran tiny dan flash serta checkpoint tahap pra-pelatihan, pelatihan menengah, dan penggabungan (WSM). Seri ini menggunakan arsitektur attention linear hibrida dan MoE sparse, dengan total parameter 7,9B dan hanya 1,3B parameter aktif per token (8 dari 128 expert terarah).
Poin utama
- inclusionAI Ant Group merilis sumber terbuka model bahasa dasar seri Ling-3.
- 0,mencakup dua ukuran tiny dan flash serta checkpoint tahap pra-pelatihan,pelatihan menengah,dan…
- Seri ini menggunakan arsitektur attention linear hibrida dan MoE sparse,dengan total parameter…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Rilis Model
- Skor AI
- 65
用加权检查点合并替代学习率衰减,让基座模型更适合持续预训练,也为验证不同衰减曲线省去重复实验。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: inclusionAI Ant Group Merilis Sumber Terbuka Model Bahasa Dasar Seri Ling-3.0. 11 Agustus 2026. https://new.nat6.net/id/news/cmt0aa8b416ywrodpq8czlstx/