SpecForge v0.3.0 เปิดตัว รวมสแต็กการถอดรหัสแบบคาดเดาแบบแยกส่วนและแบบร่วมตำแหน่ง พร้อมเพิ่มโมเดลร่าง SpecBundle แบบเปิด
หัวข้อต้นฉบับ:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team
สรุปโดย AI
SpecForge v0.3.0 แยกการอนุมานของโมเดลเป้าหมายออกจากการฝึกโมเดลร่าง รองรับอัลกอริทึมการถอดรหัสแบบคาดเดาหลายชนิด เช่น EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino และ DSpark และรวมเวิร์กโฟลว์ออนไลน์ ออฟไลน์ และแบบแยกส่วนไว้ด้วยกัน
ข้อมูลสำคัญ
- SpecForge v0.
- 0 แยกการอนุมานของโมเดลเป้าหมายออกจากการฝึกโมเดลร่าง รองรับอัลกอริทึมการถอดรหัสแบบคาดเดาหลายชนิด…
- 1,P-EAGLE,DFlash,Domino และ DSpark และรวมเวิร์กโฟลว์ออนไลน์ ออฟไลน์ และแบบแยกส่วนไว้ด้วยกัน
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- LMSYS Blog
- หมวดหมู่
- ผลิตภัณฑ์และแอป
- คะแนน AI
- 72
将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: SpecForge v0.3.0 เปิดตัว รวมสแต็กการถอดรหัสแบบคาดเดาแบบแยกส่วนและแบบร่วมตำแหน่ง พร้อมเพิ่มโมเดลร่าง SpecBundle แบบเปิด 4 สิงหาคม 2026 https://new.nat6.net/th/news/cmseyfjcz1au8ro2enx0b7os6/