Tencent Hunyuan が投機的デコーディングフレームワーク AngelSpec をオープンソース化
原題:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...
AI 要約
Tencent Hunyuan はエンドツーエンドの投機的デコーディングフレームワーク AngelSpec をオープンソース化し、トレーニングとデプロイをサポートする。Hy3-A21B モデルにおいて、その DFly 方式は自己回帰デコーディングと比較して 1.98~2.40 倍のエンドツーエンド高速化を実現し、スループットは DFlash より 10.5~11.8% 高い。トレーニングコードおよび Hy3-A21B MTP/DFly ドラフトモデルの重みがオープンソース化された。
要点
- Tencent Hunyuan はエンドツーエンドの投機的デコーディングフレームワーク AngelSpec をオープンソース化し、トレーニングとデプロイをサポートする。
- Hy3-A21B モデルにおいて、その DFly 方式は自己回帰デコーディングと比較して 1.
- 40 倍のエンドツーエンド高速化を実現し、スループットは DFlash より 10.
- トレーニングコードおよび Hy3-A21B MTP/DFly ドラフトモデルの重みがオープンソース化された
概要
- 公開日時
- 更新日時
- カテゴリ
- 製品とアプリ
- AI スコア
- 74
おすすめの理由
做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Tencent Hunyuan が投機的デコーディングフレームワーク AngelSpec をオープンソース化。2026年7月29日。https://new.nat6.net/ja/news/cms639jt416x6robksy69dzel/