製品とアプリ

Tencent Hunyuan が投機的デコーディングフレームワーク AngelSpec をオープンソース化

原題:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...

AI 要約

Tencent Hunyuan はエンドツーエンドの投機的デコーディングフレームワーク AngelSpec をオープンソース化し、トレーニングとデプロイをサポートする。Hy3-A21B モデルにおいて、その DFly 方式は自己回帰デコーディングと比較して 1.98~2.40 倍のエンドツーエンド高速化を実現し、スループットは DFlash より 10.5~11.8% 高い。トレーニングコードおよび Hy3-A21B MTP/DFly ドラフトモデルの重みがオープンソース化された。

要点

  • Tencent Hunyuan はエンドツーエンドの投機的デコーディングフレームワーク AngelSpec をオープンソース化し、トレーニングとデプロイをサポートする。
  • Hy3-A21B モデルにおいて、その DFly 方式は自己回帰デコーディングと比較して 1.
  • 40 倍のエンドツーエンド高速化を実現し、スループットは DFlash より 10.
  • トレーニングコードおよび Hy3-A21B MTP/DFly ドラフトモデルの重みがオープンソース化された

概要

公開日時
更新日時
出典
X:腾讯混元 (@TencentHunyuan)
カテゴリ
製品とアプリ
AI スコア
74
原文を読む 情報源で全文を読む
おすすめの理由

做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Tencent Hunyuan が投機的デコーディングフレームワーク AngelSpec をオープンソース化。2026年7月29日。https://new.nat6.net/ja/news/cms639jt416x6robksy69dzel/

すべて見る →