Produkte & Apps

Tencent Hunyuan veröffentlicht Open-Source-Framework AngelSpec für spekulative Dekodierung

Originaltitel:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...

KI-Zusammenfassung

Tencent Hunyuan hat das End-to-End-Framework AngelSpec für spekulative Dekodierung als Open Source veröffentlicht, das Training und Deployment unterstützt. Beim Modell Hy3-A21B erzielt sein DFly-Ansatz im Vergleich zur autoregressiven Dekodierung eine End-to-End-Beschleunigung um das 1,98- bis 2,40-Fache und einen um 10,5 bis 11,8 % höheren Durchsatz als DFlash. Der Trainingscode sowie die Gewichte der Hy3-A21B-MTP/DFly-Draft-Modelle wurden als Open Source veröffentlicht.

Kernpunkte

  • Tencent Hunyuan hat das End-to-End-Framework AngelSpec für spekulative Dekodierung als Open Source…
  • Beim Modell Hy3-A21B erzielt sein DFly-Ansatz im Vergleich zur autoregressiven Dekodierung eine…
  • Der Trainingscode sowie die Gewichte der Hy3-A21B-MTP/DFly-Draft-Modelle wurden als Open Source…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
X:腾讯混元 (@TencentHunyuan)
Kategorie
Produkte & Apps
KI-Bewertung
74
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Tencent Hunyuan veröffentlicht Open-Source-Framework AngelSpec für spekulative Dekodierung. 29. Juli 2026. https://new.nat6.net/de/news/cms639jt416x6robksy69dzel/

Alle ansehen →