inclusionAI Ant Group Merilis Sumber Terbuka Model Dasar Bahasa Efisien Seri Ling-3.0
Judul asli:inclusionAI/Ling-3.0-flash-base
Ringkasan AI
inclusionAI Ant Group merilis sumber terbuka model dasar bahasa seri Ling-3.0 yang menggunakan arsitektur MoE sangat sparse (1/64), dengan 512 expert terarah, di mana setiap token hanya mengaktifkan 8 expert terarah dan 1 expert bersama, dengan parameter aktif hanya 5,1B (Non-emb).
Poin utama
- inclusionAI Ant Group merilis sumber terbuka model dasar bahasa seri Ling-3.
- 0 yang menggunakan arsitektur MoE sangat sparse (1/64),dengan 512 expert terarah,di mana setiap…
- dengan parameter aktif hanya 5,1B (Non-emb).
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Rilis Model
- Skor AI
- 64
WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: inclusionAI Ant Group Merilis Sumber Terbuka Model Dasar Bahasa Efisien Seri Ling-3.0. 11 Agustus 2026. https://new.nat6.net/id/news/cmt0aa8b416yyrodpws2xobnz/