Релизы моделей

Выпущена первая открытая большая модель BitCPM-CANN с 1,58 бита, полностью обученная на NPU Huawei Ascend 910B

Оригинальный заголовок:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...

ИИ-резюме

ModelBest, Университет Цинхуа и сообщество OpenBMB совместно выпустили BitCPM-CANN — первую в мире открытую трёхзначную большую модель с 1,58 бита, полностью обученную на NPU Huawei Ascend 910B. Ключевое новшество — предельно низкобитная квантизация всего с тремя состояниями весов, что снижает объём памяти модели примерно в 6 раз по сравнению с BF16 и позволяет эффективно развёртывать её на периферийных устройствах: телефонах, компьютерах, автомобильных системах. Важнее то, что весь стек обучения — от квантующих операторов до фреймворка —原生 построен и проверен на Ascend, а не просто портирован. Семейство моделей (0,5B–8B) сохраняет 95–97% производительности полноточных моделей на ряде бенчмарков, предлагая практичное решение для развёртывания и воспроизведения больших моделей в условиях ограниченных ресурсов.

Ключевые моменты

  • ModelBest,Университет Цинхуа и сообщество OpenBMB совместно выпустили BitCPM-CANN — первую в мире…
  • Ключевое новшество — предельно низкобитная квантизация всего с тремя состояниями весов,что снижает…
  • Важнее то,что весь стек обучения — от квантующих операторов до фреймворка —原生 построен и проверен н…
  • Семейство моделей (0,5B–8B) сохраняет 95–97% производительности полноточных моделей на ряде…

Кратко

Опубликовано
Обновлено
Источник
X:Rohan Paul (@rohanpaul_ai)
Категория
Релизы моделей
Оценка ИИ
75
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Выпущена первая открытая большая модель BitCPM-CANN с 1,58 бита, полностью обученная на NPU Huawei Ascend 910B. 22 мая 2026. https://new.nat6.net/ru/news/cmph1mhwi0kj7sljwklnw8x2l/

Смотреть все →