Rilis Model

BitCPM-CANN, model bahasa besar sumber terbuka 1,58 bit pertama yang dilatih penuh pada NPU Huawei Ascend 910B, dirilis

Judul asli:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...

Ringkasan AI

ModelBest, Universitas Tsinghua, dan komunitas OpenBMB bersama-sama merilis BitCPM-CANN, model bahasa besar ternari 1,58 bit sumber terbuka pertama di dunia yang sepenuhnya dilatih pada NPU Huawei Ascend 910B. Inovasi intinya adalah teknologi kuantisasi bit sangat rendah yang hanya memiliki tiga status bobot, sehingga penggunaan memori model turun sekitar 6 kali dibandingkan BF16 dan dapat diterapkan secara efisien pada ponsel, komputer, perangkat otomotif, dan perangkat edge lainnya. Yang lebih penting, seluruh tumpukan pelatihan (dari operator kuantisasi hingga kerangka kerja) dibangun dan divalidasi secara native di Ascend, bukan sekadar porting. Keluarga model ini (0,5B-8B) mempertahankan performa 95-97% dari model presisi penuh pada berbagai uji benchmark, memberikan solusi yang dapat diterapkan untuk deployment dan replikasi model bahasa besar di lingkungan dengan sumber daya terbatas.

Poin utama

  • ModelBest,Universitas Tsinghua,dan komunitas OpenBMB bersama-sama merilis BitCPM-CANN,model bahasa…
  • Inovasi intinya adalah teknologi kuantisasi bit sangat rendah yang hanya memiliki tiga status…
  • Yang lebih penting,seluruh tumpukan pelatihan (dari operator kuantisasi hingga kerangka kerja)…
  • Keluarga model ini (0,5B-8B) mempertahankan performa 95-97% dari model presisi penuh pada berbagai…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
X:Rohan Paul (@rohanpaul_ai)
Kategori
Rilis Model
Skor AI
75
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: BitCPM-CANN, model bahasa besar sumber terbuka 1,58 bit pertama yang dilatih penuh pada NPU Huawei Ascend 910B, dirilis. 22 Mei 2026. https://new.nat6.net/id/news/cmph1mhwi0kj7sljwklnw8x2l/

Lihat semua →