Tencent Hunyuan open source AngelSpec, un framework de décodage spéculatif
Titre original:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...
Résumé IA
Tencent Hunyuan a open source AngelSpec, un framework de décodage spéculatif de bout en bout, couvrant l'entraînement et le déploiement. Sur le modèle Hy3-A21B, sa solution DFly atteint une accélération de bout en bout de 1,98 à 2,40 fois par rapport au décodage autorégressif, avec un débit supérieur de 10,5 à 11,8 % à DFlash. Le code d'entraînement et les poids des modèles draft MTP/DFly de Hy3-A21B sont open source.
Points clés
- Tencent Hunyuan a open source AngelSpec,un framework de décodage spéculatif de bout en…
- Sur le modèle Hy3-A21B,sa solution DFly atteint une accélération de bout en bout de 1,98 à 2,40…
- Le code d'entraînement et les poids des modèles draft MTP/DFly de Hy3-A21B sont open source.
En bref
- Publié
- Mis à jour
- Source
- X:腾讯混元 (@TencentHunyuan)
- Catégorie
- Produits et applications
- Score IA
- 74
做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Tencent Hunyuan open source AngelSpec, un framework de décodage spéculatif. 29. juillet 2026. https://new.nat6.net/fr/news/cms639jt416x6robksy69dzel/