เปิดตัวโมเดล

เปิดตัว BitCPM-CANN โมเดลโอเพนซอร์ส 1.58 บิตตัวแรกที่ฝึกด้วย Huawei Ascend 910B NPU แบบ full-stack

หัวข้อต้นฉบับ:BitCPM-CANN just became the world’s first open-sourced 1.58-bit ternary LLM trained entirely on Chin...

สรุปโดย AI

ModelBest, Tsinghua University และชุมชน OpenBMB ร่วมกันเปิดตัว BitCPM-CANN ซึ่งเป็นโมเดล ternary 1.58 บิตโอเพนซอร์สตัวแรกของโลกที่ฝึกอบรมบน Huawei Ascend 910B NPU ทั้งหมด นวัตกรรมหลักอยู่ที่การใช้เทคนิค quantization บิตต่ำมากที่มีสถานะน้ำหนักเพียงสามสถานะ ทำให้หน่วยความจำของโมเดลลดลงประมาณ 6 เท่าเมื่อเทียบกับ BF16 และสามารถติดตั้งบนอุปกรณ์ edge เช่น มือถือ คอมพิวเตอร์ และอุปกรณ์ในรถยนต์ได้อย่างมีประสิทธิภาพ ที่สำคัญกว่านั้นคือ full-stack การฝึกอบรมทั้งหมด (ตั้งแต่ operator quantization ถึงเฟรมเวิร์ก) ถูกสร้างและตรวจสอบบน Ascend โดยตรง ไม่ใช่การพอร์ตแบบง่าย ตระกูลโมเดลนี้ (0.5B-8B) รักษาประสิทธิภาพไว้ที่ 95-97% ของโมเดลความแม่นยำเต็มบน benchmark หลายรายการ มอบโซลูชันที่นำไปใช้ได้จริงสำหรับการติดตั้งและทำซ้ำโมเดลขนาดใหญ่ในสภาพแวดล้อมที่มีทรัพยากรจำกัด

ข้อมูลสำคัญ

  • ModelBest,Tsinghua University และชุมชน OpenBMB ร่วมกันเปิดตัว BitCPM-CANN ซึ่งเป็นโมเดล ternary 1.
  • 58 บิตโอเพนซอร์สตัวแรกของโลกที่ฝึกอบรมบน Huawei Ascend 910B NPU ทั้งหมด…
  • 5B-8B) รักษาประสิทธิภาพไว้ที่ 95-97% ของโมเดลความแม่นยำเต็มบน benchmark หลายรายการ…

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
X:Rohan Paul (@rohanpaul_ai)
หมวดหมู่
เปิดตัวโมเดล
คะแนน AI
75
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

首个开源的1.58-bit三元LLM,直接在昇腾芯片上原生训练,内存压缩到BF16的六分之一,8B模型就能跑在手机上,做端侧部署的可以立刻上手试试了。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: เปิดตัว BitCPM-CANN โมเดลโอเพนซอร์ส 1.58 บิตตัวแรกที่ฝึกด้วย Huawei Ascend 910B NPU แบบ full-stack 22 พฤษภาคม 2026 https://new.nat6.net/th/news/cmph1mhwi0kj7sljwklnw8x2l/

ดูทั้งหมด →