Mga produkto at aplikasyon

Inilabas ang SpecForge v0.3.0: pinag-isang decoupled at colocated speculative decoding stack, may bagong open SpecBundle draft model

Orihinal na pamagat:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team

AI summary

Hinihiwalay ng SpecForge v0.3.0 ang target model inference at draft model training, sumusuporta sa EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino, DSpark, at iba pang speculative decoding algorithm, at pinag-iisa ang online, offline, at decoupled workflows.

Mahahalagang impormasyon

  • Hinihiwalay ng SpecForge v0.
  • 0 ang target model inference at draft model training,sumusuporta sa EAGLE3,EAGLE3.
  • 1,P-EAGLE,DFlash,Domino,DSpark,at iba pang speculative decoding algorithm,at pinag-iisa ang…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
LMSYS Blog
Kategorya
Mga produkto at aplikasyon
AI na marka
72
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inilabas ang SpecForge v0.3.0: pinag-isang decoupled at colocated speculative decoding stack, may bagong open SpecBundle draft model. 4 Agosto 2026. https://new.nat6.net/fil/news/cmseyfjcz1au8ro2enx0b7os6/

Tingnan lahat →