Tencent Hunyuan merilis kerangka decoding spekulatif AngelSpec secara sumber terbuka
Judul asli:🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...
Ringkasan AI
Tencent Hunyuan merilis kerangka decoding spekulatif end-to-end AngelSpec secara sumber terbuka, mendukung pelatihan dan penerapan. Pada model Hy3-A21B, skema DFly-nya mencapai percepatan end-to-end 1,98–2,40 kali dibandingkan decoding autoregresif, dengan throughput 10,5–11,8% lebih tinggi daripada DFlash. Kode pelatihan serta bobot model draf MTP/DFly Hy3-A21B telah dirilis sebagai sumber terbuka.
Poin utama
- Tencent Hunyuan merilis kerangka decoding spekulatif end-to-end AngelSpec secara sumber…
- Pada model Hy3-A21B,skema DFly-nya mencapai percepatan end-to-end 1,98–2,40 kali dibandingkan…
- Kode pelatihan serta bobot model draf MTP/DFly Hy3-A21B telah dirilis sebagai sumber terbuka.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- X:腾讯混元 (@TencentHunyuan)
- Kategori
- Produk & Aplikasi
- Skor AI
- 74
做推理加速的可以试试这个端到端推测解码框架,腾讯开源了完整代码和权重,在 Hy3 上提速近 2.4 倍且吞吐更高,拿来即用。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Tencent Hunyuan merilis kerangka decoding spekulatif AngelSpec secara sumber terbuka. 29 Juli 2026. https://new.nat6.net/id/news/cms639jt416x6robksy69dzel/