ผลิตภัณฑ์และแอป

SpecForge v0.3.0 เปิดตัว รวมสแต็กการถอดรหัสแบบคาดเดาแบบแยกส่วนและแบบร่วมตำแหน่ง พร้อมเพิ่มโมเดลร่าง SpecBundle แบบเปิด

หัวข้อต้นฉบับ:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team

สรุปโดย AI

SpecForge v0.3.0 แยกการอนุมานของโมเดลเป้าหมายออกจากการฝึกโมเดลร่าง รองรับอัลกอริทึมการถอดรหัสแบบคาดเดาหลายชนิด เช่น EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino และ DSpark และรวมเวิร์กโฟลว์ออนไลน์ ออฟไลน์ และแบบแยกส่วนไว้ด้วยกัน

ข้อมูลสำคัญ

  • SpecForge v0.
  • 0 แยกการอนุมานของโมเดลเป้าหมายออกจากการฝึกโมเดลร่าง รองรับอัลกอริทึมการถอดรหัสแบบคาดเดาหลายชนิด…
  • 1,P-EAGLE,DFlash,Domino และ DSpark และรวมเวิร์กโฟลว์ออนไลน์ ออฟไลน์ และแบบแยกส่วนไว้ด้วยกัน

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
LMSYS Blog
หมวดหมู่
ผลิตภัณฑ์และแอป
คะแนน AI
72
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: SpecForge v0.3.0 เปิดตัว รวมสแต็กการถอดรหัสแบบคาดเดาแบบแยกส่วนและแบบร่วมตำแหน่ง พร้อมเพิ่มโมเดลร่าง SpecBundle แบบเปิด 4 สิงหาคม 2026 https://new.nat6.net/th/news/cmseyfjcz1au8ro2enx0b7os6/

ดูทั้งหมด →