Sản phẩm & ứng dụng

Tencent Hunyuan mã nguồn mở khung giải mã suy đoán AngelSpec

Tiêu đề gốc:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...

Tóm tắt AI

Tencent Hunyuan mã nguồn mở khung giải mã suy đoán đầu-cuối AngelSpec, hỗ trợ huấn luyện và triển khai. Trên mô hình Hy3-A21B, phương án DFly của nó đạt tốc độ tăng tốc đầu-cuối 1,98–2,40 lần so với giải mã tự hồi quy, thông lượng cao hơn DFlash 10,5–11,8%. Mã huấn luyện và trọng số mô hình nháp Hy3-A21B MTP/DFly đã được mã nguồn mở.

Thông tin chính

  • Tencent Hunyuan mã nguồn mở khung giải mã suy đoán đầu-cuối AngelSpec,hỗ trợ huấn luyện và triển…
  • Trên mô hình Hy3-A21B,phương án DFly của nó đạt tốc độ tăng tốc đầu-cuối 1,98–2,40 lần so với giải…
  • Mã huấn luyện và trọng số mô hình nháp Hy3-A21B MTP/DFly đã được mã nguồn mở.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
X:腾讯混元 (@TencentHunyuan)
Danh mục
Sản phẩm & ứng dụng
Điểm AI
74
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Tencent Hunyuan mã nguồn mở khung giải mã suy đoán AngelSpec. 29 tháng 7 2026. https://new.nat6.net/vi/news/cms639jt416x6robksy69dzel/

Xem tất cả →