เปิดตัวโมเดล

TII เปิดตัวโมเดลภาษา Falcon-Edge ซีรีส์ BitNet 1.58bit ขนาด 1B และ 3B

หัวข้อต้นฉบับ:Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.

สรุปโดย AI

Falcon-Edge ซีรีส์ของ TII อิงสถาปัตยกรรม BitNet ฝึกอบรมล่วงหน้าด้วยน้ำหนักแบบสามค่า {-1, 0, 1} โดยตรง มีขนาดพารามิเตอร์ 1B และ 3B แต่ละขนาดมีเวอร์ชัน base และ instruct และฝึกอบรมล่วงหน้าบนข้อมูลภายในผสมประมาณ 1.5 Tera Tokens

ข้อมูลสำคัญ

  • Falcon-Edge ซีรีส์ของ TII อิงสถาปัตยกรรม BitNet ฝึกอบรมล่วงหน้าด้วยน้ำหนักแบบสามค่า {-1
  • 1} โดยตรง มีขนาดพารามิเตอร์ 1B และ 3B แต่ละขนาดมีเวอร์ชัน base และ instruct…
  • 5 Tera Tokens

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Hugging Face 社区博客(混合发现)
หมวดหมู่
เปิดตัวโมเดล
คะแนน AI
64
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

原文解释了 BitNet 三值权重的训练范式和微调路径,读者可以据此判断 1.58bit 模型在端侧部署的适用性。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: TII เปิดตัวโมเดลภาษา Falcon-Edge ซีรีส์ BitNet 1.58bit ขนาด 1B และ 3B 15 พฤษภาคม 2025 https://new.nat6.net/th/news/fm425yt03kg5jtbfgp99um7jm/

ดูทั้งหมด →