Huawei昇騰910B NPUによるフルスタックトレーニングに初めて基づく1.58ビットオープンソース大規模言語モデルBitCPM-CANNを発表
原題:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...
AI 要約
ModelBest、清華大学、OpenBMBコミュニティは共同でBitCPM-CANNを発表した。これはHuawei昇騰910B NPUに完全に基づいてトレーニングされた世界初のオープンソース1.58ビット三値大規模言語モデルである。中核的な革新は、3つの重み状態のみを含む極低ビット量子化技術を採用し、モデルのメモリ使用量をBF16比で約6倍削減し、スマートフォン、PC、車載機器などのエッジ端末に効率的に展開できることにある。さらに重要なのは、トレーニングのフルスタック(量子化演算子からフレームワークまで)が単なる移植ではなく、昇騰上でネイティブに構築・検証されていることだ。このモデルファミリー(0.5B-8B)は複数のベンチマークテストで全精度モデルの95-97%の性能を維持し、リソース制約環境での大規模言語モデルの展開と再現に実装可能なソリューションを提供している。
要点
- ModelBest、清華大学、OpenBMBコミュニティは共同でBitCPM-CANNを発表した。
- これはHuawei昇騰910B NPUに完全に基づいてトレーニングされた世界初のオープンソース1.
- 58ビット三値大規模言語モデルである。
- 中核的な革新は、3つの重み状態のみを含む極低ビット量子化技術を採用し、モデルのメモリ使用量をBF16比で約6倍削減し、スマートフォン、PC、車載機器などのエッジ端末に効率的に展開できることにある。
- さらに重要なのは、トレーニングのフルスタック(量子化演算子からフレームワークまで)が単なる移植ではなく、昇騰上でネイティブに構築・検証されていることだ。
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 75
首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Huawei昇騰910B NPUによるフルスタックトレーニングに初めて基づく1.58ビットオープンソース大規模言語モデルBitCPM-CANNを発表。2026年5月22日。https://new.nat6.net/ja/news/cmph1mhwi0kj7sljwklnw8x2l/