เปิดตัวโมเดล

Microsoft AI เผยรายละเอียดการฝึกอบรมล่วงหน้าของ MAI-Base-2 โมเดล MoE 2.8T พารามิเตอร์ มีประสิทธิภาพ FLOPs สูงกว่า DeepSeek-V4-Pro-Base 4.2 ถึง 12.3 เท่า

หัวข้อต้นฉบับ:Frontier Pre-training at Microsoft AI

สรุปโดย AI

Microsoft AI ประกาศเสร็จสิ้นการฝึกอบรมล่วงหน้า MAI-Base-2 ซึ่งเป็นโมเดลพื้นฐาน MoE ที่เปิดใช้งาน 80 พันล้านพารามิเตอร์และมีพารามิเตอร์รวม 2.8T โดยมีค่า BPB ต่ำกว่าโมเดลน้ำหนักแบบเปิดทั้งหมดที่ทดสอบในการประเมิน held-out และมีประสิทธิภาพ FLOPs ในการฝึกอบรมล่วงหน้าสูงกว่า DeepSeek-V4-Pro-Base 4.2 ถึง 12.3 เท่า

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Microsoft AI:官方博客(RSS)
หมวดหมู่
เปิดตัวโมเดล
หัวข้อ
การเปิดตัวโมเดลมัลติโมดัล
คะแนน AI
66
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。

หัวข้อที่เกี่ยวข้อง

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Microsoft AI เผยรายละเอียดการฝึกอบรมล่วงหน้าของ MAI-Base-2 โมเดล MoE 2.8T พารามิเตอร์ มีประสิทธิภาพ FLOPs สูงกว่า DeepSeek-V4-Pro-Base 4.2 ถึง 12.3 เท่า 16 ตุลาคม 2026 https://new.nat6.net/th/news/f7ey01hbckuivmlgen9jq0vaf/

ดูทั้งหมด →