Tencent Hunyuan veröffentlicht Open-Source-Framework AngelSpec für spekulative Dekodierung
Originaltitel:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...
KI-Zusammenfassung
Tencent Hunyuan hat das End-to-End-Framework AngelSpec für spekulative Dekodierung als Open Source veröffentlicht, das Training und Deployment unterstützt. Beim Modell Hy3-A21B erzielt sein DFly-Ansatz im Vergleich zur autoregressiven Dekodierung eine End-to-End-Beschleunigung um das 1,98- bis 2,40-Fache und einen um 10,5 bis 11,8 % höheren Durchsatz als DFlash. Der Trainingscode sowie die Gewichte der Hy3-A21B-MTP/DFly-Draft-Modelle wurden als Open Source veröffentlicht.
Kernpunkte
- Tencent Hunyuan hat das End-to-End-Framework AngelSpec für spekulative Dekodierung als Open Source…
- Beim Modell Hy3-A21B erzielt sein DFly-Ansatz im Vergleich zur autoregressiven Dekodierung eine…
- Der Trainingscode sowie die Gewichte der Hy3-A21B-MTP/DFly-Draft-Modelle wurden als Open Source…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- X:腾讯混元 (@TencentHunyuan)
- Kategorie
- Produkte & Apps
- KI-Bewertung
- 74
做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Tencent Hunyuan veröffentlicht Open-Source-Framework AngelSpec für spekulative Dekodierung. 29. Juli 2026. https://new.nat6.net/de/news/cms639jt416x6robksy69dzel/