Ra mắt mô hình

Ra mắt mô hình ngôn ngữ lớn mã nguồn mở 1,58 bit đầu tiên huấn luyện toàn stack trên NPU Huawei Ascend 910B: BitCPM-CANN

Tiêu đề gốc:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...

Tóm tắt AI

ModelBest, Đại học Thanh Hoa và cộng đồng OpenBMB đã cùng phát hành BitCPM-CANN, mô hình ngôn ngữ lớn ternary 1,58 bit mã nguồn mở đầu tiên trên thế giới được huấn luyện hoàn toàn trên NPU Huawei Ascend 910B. Đổi mới cốt lõi là kỹ thuật lượng tử hóa bit cực thấp chỉ với ba trạng thái trọng số, giúp mức sử dụng bộ nhớ của mô hình giảm khoảng 6 lần so với BF16, có thể triển khai hiệu quả trên điện thoại, máy tính, thiết bị trên xe và các thiết bị biên. Quan trọng hơn, toàn bộ stack huấn luyện (từ toán tử lượng tử hóa đến framework) đều được xây dựng và kiểm chứng nguyên bản trên Ascend, không phải chuyển giao đơn giản. Họ mô hình (0,5B-8B) duy trì hiệu năng 95-97% so với mô hình độ chính xác đầy đủ trên nhiều bài kiểm tra chuẩn, cung cấp giải pháp khả thi để triển khai và tái tạo mô hình lớn trong môi trường hạn chế tài nguyên.

Thông tin chính

  • ModelBest,Đại học Thanh Hoa và cộng đồng OpenBMB đã cùng phát hành BitCPM-CANN,mô hình ngôn ngữ…
  • Đổi mới cốt lõi là kỹ thuật lượng tử hóa bit cực thấp chỉ với ba trạng thái trọng số,giúp mức sử…
  • Quan trọng hơn,toàn bộ stack huấn luyện (từ toán tử lượng tử hóa đến framework) đều được xây dựng…
  • Họ mô hình (0,5B-8B) duy trì hiệu năng 95-97% so với mô hình độ chính xác đầy đủ trên nhiều bài…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
X:Rohan Paul (@rohanpaul_ai)
Danh mục
Ra mắt mô hình
Điểm AI
75
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Ra mắt mô hình ngôn ngữ lớn mã nguồn mở 1,58 bit đầu tiên huấn luyện toàn stack trên NPU Huawei Ascend 910B: BitCPM-CANN. 22 tháng 5 2026. https://new.nat6.net/vi/news/cmph1mhwi0kj7sljwklnw8x2l/

Xem tất cả →