Produits et applications

Tencent Hunyuan open source AngelSpec, un framework de décodage spéculatif

Titre original:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...

Résumé IA

Tencent Hunyuan a open source AngelSpec, un framework de décodage spéculatif de bout en bout, couvrant l'entraînement et le déploiement. Sur le modèle Hy3-A21B, sa solution DFly atteint une accélération de bout en bout de 1,98 à 2,40 fois par rapport au décodage autorégressif, avec un débit supérieur de 10,5 à 11,8 % à DFlash. Le code d'entraînement et les poids des modèles draft MTP/DFly de Hy3-A21B sont open source.

Points clés

  • Tencent Hunyuan a open source AngelSpec,un framework de décodage spéculatif de bout en…
  • Sur le modèle Hy3-A21B,sa solution DFly atteint une accélération de bout en bout de 1,98 à 2,40…
  • Le code d'entraînement et les poids des modèles draft MTP/DFly de Hy3-A21B sont open source.

En bref

Publié
Mis à jour
Source
X:腾讯混元 (@TencentHunyuan)
Catégorie
Produits et applications
Score IA
74
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Tencent Hunyuan open source AngelSpec, un framework de décodage spéculatif. 29. juillet 2026. https://new.nat6.net/fr/news/cms639jt416x6robksy69dzel/

Tout voir →