SpecForge v0.3.0 dilancarkan: menyatukan tindanan penyahkodan spekulatif berpisah dan seiring, tambah model draf SpecBundle terbuka
Tajuk asal:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team
Ringkasan AI
SpecForge v0.3.0 memisahkan penaakulan model sasaran daripada latihan model draf, menyokong pelbagai algoritma penyahkodan spekulatif seperti EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino dan DSpark, serta menyatukan aliran kerja dalam talian, luar talian dan berpisah.
Maklumat penting
- SpecForge v0.
- 0 memisahkan penaakulan model sasaran daripada latihan model draf,menyokong pelbagai algoritma…
- 1,P-EAGLE,DFlash,Domino dan DSpark,serta menyatukan aliran kerja dalam talian,luar talian dan…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- LMSYS Blog
- Kategori
- Produk & Aplikasi
- Skor AI
- 72
将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: SpecForge v0.3.0 dilancarkan: menyatukan tindanan penyahkodan spekulatif berpisah dan seiring, tambah model draf SpecBundle terbuka. 4 Ogos 2026. https://new.nat6.net/ms/news/cmseyfjcz1au8ro2enx0b7os6/