Microsoft AI เผยรายละเอียดการฝึกอบรมล่วงหน้าของ MAI-Base-2 โมเดล MoE 2.8T พารามิเตอร์ มีประสิทธิภาพ FLOPs สูงกว่า DeepSeek-V4-Pro-Base 4.2 ถึง 12.3 เท่า
หัวข้อต้นฉบับ:Frontier Pre-training at Microsoft AI
สรุปโดย AI
Microsoft AI ประกาศเสร็จสิ้นการฝึกอบรมล่วงหน้า MAI-Base-2 ซึ่งเป็นโมเดลพื้นฐาน MoE ที่เปิดใช้งาน 80 พันล้านพารามิเตอร์และมีพารามิเตอร์รวม 2.8T โดยมีค่า BPB ต่ำกว่าโมเดลน้ำหนักแบบเปิดทั้งหมดที่ทดสอบในการประเมิน held-out และมีประสิทธิภาพ FLOPs ในการฝึกอบรมล่วงหน้าสูงกว่า DeepSeek-V4-Pro-Base 4.2 ถึง 12.3 เท่า
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Microsoft AI:官方博客(RSS)
- หมวดหมู่
- เปิดตัวโมเดล
- หัวข้อ
- การเปิดตัวโมเดลมัลติโมดัล
- คะแนน AI
- 66
官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。
หัวข้อที่เกี่ยวข้อง
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Microsoft AI เผยรายละเอียดการฝึกอบรมล่วงหน้าของ MAI-Base-2 โมเดล MoE 2.8T พารามิเตอร์ มีประสิทธิภาพ FLOPs สูงกว่า DeepSeek-V4-Pro-Base 4.2 ถึง 12.3 เท่า 16 ตุลาคม 2026 https://new.nat6.net/th/news/f7ey01hbckuivmlgen9jq0vaf/