Productos y aplicaciones

Se lanza SpecForge v0.3.0: pila unificada de decodificación especulativa desacoplada y colocada, con nuevos modelos borrador SpecBundle abiertos

Título original:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team

Resumen de IA

SpecForge v0.3.0 separa la inferencia del modelo objetivo del entrenamiento del modelo borrador, admite algoritmos de decodificación especulativa como EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino y DSpark, y unifica los flujos de trabajo en línea, fuera de línea y desacoplados.

Puntos clave

  • SpecForge v0.
  • 0 separa la inferencia del modelo objetivo del entrenamiento del modelo borrador,admite algoritmos…
  • 1,P-EAGLE,DFlash,Domino y DSpark,y unifica los flujos de trabajo en línea,fuera de línea y…

Resumen rápido

Publicado
Actualizado
Fuente
LMSYS Blog
Categoría
Productos y aplicaciones
Puntuación IA
72
Leer el original Leer el artículo completo en la fuente original
Por qué importa

将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Se lanza SpecForge v0.3.0: pila unificada de decodificación especulativa desacoplada y colocada, con nuevos modelos borrador SpecBundle abiertos. 4. agosto 2026. https://new.nat6.net/es/news/cmseyfjcz1au8ro2enx0b7os6/

Ver todo →