Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ hiệu quả Ling-3.0
Tiêu đề gốc:inclusionAI/Ling-3.0-flash-base
Tóm tắt AI
Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ Ling-3.0, dùng kiến trúc MoE thưa cao (1/64) với 512 chuyên gia định tuyến, mỗi token chỉ kích hoạt 8 chuyên gia định tuyến và 1 chuyên gia chia sẻ, tham số kích hoạt chỉ 5,1B (Non-emb).
Thông tin chính
- Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ Ling-3.
- dùng kiến trúc MoE thưa cao (1/64) với 512 chuyên gia định tuyến,mỗi token chỉ kích hoạt 8 chuyên…
- tham số kích hoạt chỉ 5,1B (Non-emb).
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Ra mắt mô hình
- Điểm AI
- 64
WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ hiệu quả Ling-3.0. 11 tháng 8 2026. https://new.nat6.net/vi/news/cmt0aa8b416yyrodpws2xobnz/