Inilabas ang unang 1.58-bit open source na malaking modelong BitCPM-CANN na ganap na sinanay sa Huawei Ascend 910B NPU full stack
Orihinal na pamagat:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...
AI summary
Magkasamang inilabas ng ModelBest, Tsinghua University at OpenBMB community ang BitCPM-CANN, ang kauna-unahang open source na 1.58-bit ternary na malaking modelo sa mundo na ganap na sinanay sa Huawei Ascend 910B NPU. Ang pangunahing inobasyon nito ay ang paggamit ng napakababang bit quantization na may tatlo lamang na estado ng timbang, na nagpababa ng memory footprint ng modelo nang humigit-kumulang 6 na beses kumpara sa BF16, at mahusay na maipapakalat sa mga edge device tulad ng telepono, computer at sasakyan. Mas mahalaga, ang buong training stack (mula sa quantization operators hanggang sa framework) ay orihinal na binuo at na-validate sa Ascend, hindi lamang inilipat. Ang pamilya ng modelo (0.5B-8B) ay nagpapanatili ng 95-97% ng pagganap ng full-precision na modelo sa maraming benchmark, na nagbibigay ng praktikal na solusyon para sa pag-deploy at pag-reproduce ng malalaking modelo sa kapaligirang limitado ang resources.
Mahahalagang impormasyon
- Magkasamang inilabas ng ModelBest,Tsinghua University at OpenBMB community ang BitCPM-CANN,ang…
- 58-bit ternary na malaking modelo sa mundo na ganap na sinanay sa Huawei Ascend 910B NPU.
- Ang pangunahing inobasyon nito ay ang paggamit ng napakababang bit quantization na may tatlo…
- Mas mahalaga,ang buong training stack (mula sa quantization operators hanggang sa framework) ay…
- Ang pamilya ng modelo (0.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- X:Rohan Paul (@rohanpaul_ai)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 75
首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Inilabas ang unang 1.58-bit open source na malaking modelong BitCPM-CANN na ganap na sinanay sa Huawei Ascend 910B NPU full stack. 22 Mayo 2026. https://new.nat6.net/fil/news/cmph1mhwi0kj7sljwklnw8x2l/