Ra mắt mô hình

Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ hiệu quả Ling-3.0

Tiêu đề gốc:inclusionAI/Ling-3.0-flash-base

Tóm tắt AI

Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ Ling-3.0, dùng kiến trúc MoE thưa cao (1/64) với 512 chuyên gia định tuyến, mỗi token chỉ kích hoạt 8 chuyên gia định tuyến và 1 chuyên gia chia sẻ, tham số kích hoạt chỉ 5,1B (Non-emb).

Thông tin chính

  • Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ Ling-3.
  • dùng kiến trúc MoE thưa cao (1/64) với 512 chuyên gia định tuyến,mỗi token chỉ kích hoạt 8 chuyên…
  • tham số kích hoạt chỉ 5,1B (Non-emb).

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
蚂蚁 inclusionAI:HuggingFace 新模型
Danh mục
Ra mắt mô hình
Điểm AI
64
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

WSM 合并替代学习率衰减,让持续预训练和动态数据扩展不必为每种衰减策略重跑训练,降低实验成本。

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Ant inclusionAI mã nguồn mở dòng mô hình nền tảng ngôn ngữ hiệu quả Ling-3.0. 11 tháng 8 2026. https://new.nat6.net/vi/news/cmt0aa8b416yyrodpws2xobnz/

Xem tất cả →