Ra mắt mô hình ngôn ngữ lớn mã nguồn mở 1,58 bit đầu tiên huấn luyện toàn stack trên NPU Huawei Ascend 910B: BitCPM-CANN
Tiêu đề gốc:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...
Tóm tắt AI
ModelBest, Đại học Thanh Hoa và cộng đồng OpenBMB đã cùng phát hành BitCPM-CANN, mô hình ngôn ngữ lớn ternary 1,58 bit mã nguồn mở đầu tiên trên thế giới được huấn luyện hoàn toàn trên NPU Huawei Ascend 910B. Đổi mới cốt lõi là kỹ thuật lượng tử hóa bit cực thấp chỉ với ba trạng thái trọng số, giúp mức sử dụng bộ nhớ của mô hình giảm khoảng 6 lần so với BF16, có thể triển khai hiệu quả trên điện thoại, máy tính, thiết bị trên xe và các thiết bị biên. Quan trọng hơn, toàn bộ stack huấn luyện (từ toán tử lượng tử hóa đến framework) đều được xây dựng và kiểm chứng nguyên bản trên Ascend, không phải chuyển giao đơn giản. Họ mô hình (0,5B-8B) duy trì hiệu năng 95-97% so với mô hình độ chính xác đầy đủ trên nhiều bài kiểm tra chuẩn, cung cấp giải pháp khả thi để triển khai và tái tạo mô hình lớn trong môi trường hạn chế tài nguyên.
Thông tin chính
- ModelBest,Đại học Thanh Hoa và cộng đồng OpenBMB đã cùng phát hành BitCPM-CANN,mô hình ngôn ngữ…
- Đổi mới cốt lõi là kỹ thuật lượng tử hóa bit cực thấp chỉ với ba trạng thái trọng số,giúp mức sử…
- Quan trọng hơn,toàn bộ stack huấn luyện (từ toán tử lượng tử hóa đến framework) đều được xây dựng…
- Họ mô hình (0,5B-8B) duy trì hiệu năng 95-97% so với mô hình độ chính xác đầy đủ trên nhiều bài…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Ra mắt mô hình
- Điểm AI
- 75
首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Ra mắt mô hình ngôn ngữ lớn mã nguồn mở 1,58 bit đầu tiên huấn luyện toàn stack trên NPU Huawei Ascend 910B: BitCPM-CANN. 22 tháng 5 2026. https://new.nat6.net/vi/news/cmph1mhwi0kj7sljwklnw8x2l/