Produk & Aplikasi

SpecForge v0.3.0 dilancarkan: menyatukan tindanan penyahkodan spekulatif berpisah dan seiring, tambah model draf SpecBundle terbuka

Tajuk asal:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team

Ringkasan AI

SpecForge v0.3.0 memisahkan penaakulan model sasaran daripada latihan model draf, menyokong pelbagai algoritma penyahkodan spekulatif seperti EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino dan DSpark, serta menyatukan aliran kerja dalam talian, luar talian dan berpisah.

Maklumat penting

  • SpecForge v0.
  • 0 memisahkan penaakulan model sasaran daripada latihan model draf,menyokong pelbagai algoritma…
  • 1,P-EAGLE,DFlash,Domino dan DSpark,serta menyatukan aliran kerja dalam talian,luar talian dan…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
LMSYS Blog
Kategori
Produk & Aplikasi
Skor AI
72
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: SpecForge v0.3.0 dilancarkan: menyatukan tindanan penyahkodan spekulatif berpisah dan seiring, tambah model draf SpecBundle terbuka. 4 Ogos 2026. https://new.nat6.net/ms/news/cmseyfjcz1au8ro2enx0b7os6/

Lihat Semua →