Выпущен SpecForge v0.3.0: унифицированный стек спекулятивного декодирования с развязкой и совместным размещением, добавлены открытые черновые модели SpecBundle
Оригинальный заголовок:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team
ИИ-резюме
SpecForge v0.3.0 разделяет инференс целевой модели и обучение черновой модели, поддерживает различные алгоритмы спекулятивного декодирования, включая EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino и DSpark, и унифицирует онлайн-, офлайн- и развязанные рабочие процессы.
Ключевые моменты
- SpecForge v0.
- 0 разделяет инференс целевой модели и обучение черновой модели,поддерживает различные алгоритмы…
- 1,P-EAGLE,DFlash,Domino и DSpark,и унифицирует онлайн-,офлайн- и развязанные рабочие процессы.
Кратко
- Опубликовано
- Обновлено
- Источник
- LMSYS Blog
- Категория
- Продукты и приложения
- Оценка ИИ
- 72
将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Выпущен SpecForge v0.3.0: унифицированный стек спекулятивного декодирования с развязкой и совместным размещением, добавлены открытые черновые модели SpecBundle. 4 августа 2026. https://new.nat6.net/ru/news/cmseyfjcz1au8ro2enx0b7os6/