Erstes vollständig auf Huawei Ascend 910B NPU trainiertes offenes 1,58-Bit-Modell BitCPM-CANN veröffentlicht
Originaltitel:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...
KI-Zusammenfassung
ModelBest, die Tsinghua-Universität und die OpenBMB-Community haben BitCPM-CANN veröffentlicht – das weltweit erste offene 1,58-Bit-Ternärmodell, das vollständig auf Huawei Ascend 910B NPUs trainiert wurde. Kerninnovation ist eine extrem niedrige Bit-Quantisierung mit nur drei Gewichtszuständen, die den Speicherbedarf gegenüber BF16 um etwa das Sechsfache senkt und eine effiziente Bereitstellung auf Smartphones, PCs und Fahrzeuggeräten ermöglicht. Entscheidend ist, dass der gesamte Trainings-Stack – von Quantisierungsoperatoren bis zum Framework – nativ auf Ascend aufgebaut und validiert wurde, nicht bloß portiert. Die Modellfamilie (0,5B–8B) erreicht in mehreren Benchmarks 95–97 % der Leistung von Vollpräzisionsmodellen und bietet damit eine praktikable Lösung für Bereitstellung und Reproduktion großer Modelle unter Ressourcenbeschränkungen.
Kernpunkte
- ModelBest,die Tsinghua-Universität und die OpenBMB-Community haben BitCPM-CANN veröffentlicht –…
- Kerninnovation ist eine extrem niedrige Bit-Quantisierung mit nur drei Gewichtszuständen,die den…
- Entscheidend ist,dass der gesamte Trainings-Stack – von Quantisierungsoperatoren bis zum Framework…
- Die Modellfamilie (0,5B–8B) erreicht in mehreren Benchmarks 95–97 % der Leistung von…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- X:Rohan Paul (@rohanpaul_ai)
- Kategorie
- Modellveröffentlichungen
- KI-Bewertung
- 75
首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Erstes vollständig auf Huawei Ascend 910B NPU trainiertes offenes 1,58-Bit-Modell BitCPM-CANN veröffentlicht. 22. Mai 2026. https://new.nat6.net/de/news/cmph1mhwi0kj7sljwklnw8x2l/