Produits et applications

SpecForge v0.3.0 : pile de décodage spéculatif unifiée découplée et colocalisée, avec de nouveaux modèles draft SpecBundle ouverts

Titre original:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team

Résumé IA

SpecForge v0.3.0 sépare l'inférence du modèle cible de l'entraînement du modèle draft et prend en charge plusieurs algorithmes de décodage spéculatif : EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino, DSpark, etc. Il unifie les workflows en ligne, hors ligne et découplés.

Points clés

  • SpecForge v0.
  • 0 sépare l'inférence du modèle cible de l'entraînement du modèle draft et prend en charge…
  • 1,P-EAGLE,DFlash,Domino,DSpark,etc.
  • Il unifie les workflows en ligne,hors ligne et découplés.

En bref

Publié
Mis à jour
Source
LMSYS Blog
Catégorie
Produits et applications
Score IA
72
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : SpecForge v0.3.0 : pile de décodage spéculatif unifiée découplée et colocalisée, avec de nouveaux modèles draft SpecBundle ouverts. 4. août 2026. https://new.nat6.net/fr/news/cmseyfjcz1au8ro2enx0b7os6/

Tout voir →