Tencent Hunyuan เปิดโอเพนซอร์สเฟรมเวิร์ก speculative decoding AngelSpec
หัวข้อต้นฉบับ:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...
สรุปโดย AI
Tencent Hunyuan เปิดโอเพนซอร์สเฟรมเวิร์ก speculative decoding แบบครบวงจร AngelSpec รองรับการฝึกอบรมและการติดตั้งใช้งาน บนโมเดล Hy3-A21B แผน DFly ให้ความเร็วเพิ่มขึ้นแบบครบวงจร 1.98–2.40 เท่าเมื่อเทียบกับการถอดรหัสแบบ autoregressive และมี throughput สูงกว่า DFlash 10.5–11.8% โค้ดฝึกอบรมและน้ำหนักโมเดลร่าง Hy3-A21B MTP/DFly เปิดโอเพนซอร์สแล้ว
ข้อมูลสำคัญ
- Tencent Hunyuan เปิดโอเพนซอร์สเฟรมเวิร์ก speculative decoding แบบครบวงจร AngelSpec…
- 40 เท่าเมื่อเทียบกับการถอดรหัสแบบ autoregressive และมี throughput สูงกว่า DFlash 10.
- 8% โค้ดฝึกอบรมและน้ำหนักโมเดลร่าง Hy3-A21B MTP/DFly เปิดโอเพนซอร์สแล้ว
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- X:腾讯混元 (@TencentHunyuan)
- หมวดหมู่
- ผลิตภัณฑ์และแอป
- คะแนน AI
- 74
做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Tencent Hunyuan เปิดโอเพนซอร์สเฟรมเวิร์ก speculative decoding AngelSpec 29 กรกฎาคม 2026 https://new.nat6.net/th/news/cms639jt416x6robksy69dzel/