Продукты и приложения

Выпущен SpecForge v0.3.0: унифицированный стек спекулятивного декодирования с развязкой и совместным размещением, добавлены открытые черновые модели SpecBundle

Оригинальный заголовок:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team

ИИ-резюме

SpecForge v0.3.0 разделяет инференс целевой модели и обучение черновой модели, поддерживает различные алгоритмы спекулятивного декодирования, включая EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino и DSpark, и унифицирует онлайн-, офлайн- и развязанные рабочие процессы.

Ключевые моменты

  • SpecForge v0.
  • 0 разделяет инференс целевой модели и обучение черновой модели,поддерживает различные алгоритмы…
  • 1,P-EAGLE,DFlash,Domino и DSpark,и унифицирует онлайн-,офлайн- и развязанные рабочие процессы.

Кратко

Опубликовано
Обновлено
Источник
LMSYS Blog
Категория
Продукты и приложения
Оценка ИИ
72
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Выпущен SpecForge v0.3.0: унифицированный стек спекулятивного декодирования с развязкой и совместным размещением, добавлены открытые черновые модели SpecBundle. 4 августа 2026. https://new.nat6.net/ru/news/cmseyfjcz1au8ro2enx0b7os6/

Смотреть все →