Se lanza SpecForge v0.3.0: pila unificada de decodificación especulativa desacoplada y colocada, con nuevos modelos borrador SpecBundle abiertos
Título original:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team
Resumen de IA
SpecForge v0.3.0 separa la inferencia del modelo objetivo del entrenamiento del modelo borrador, admite algoritmos de decodificación especulativa como EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino y DSpark, y unifica los flujos de trabajo en línea, fuera de línea y desacoplados.
Puntos clave
- SpecForge v0.
- 0 separa la inferencia del modelo objetivo del entrenamiento del modelo borrador,admite algoritmos…
- 1,P-EAGLE,DFlash,Domino y DSpark,y unifica los flujos de trabajo en línea,fuera de línea y…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- LMSYS Blog
- Categoría
- Productos y aplicaciones
- Puntuación IA
- 72
将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Se lanza SpecForge v0.3.0: pila unificada de decodificación especulativa desacoplada y colocada, con nuevos modelos borrador SpecBundle abiertos. 4. agosto 2026. https://new.nat6.net/es/news/cmseyfjcz1au8ro2enx0b7os6/