Hugging Face merilis model draf DSpark seri LFM2.5, kecepatan penalaran hingga 3,18 kali lebih tinggi
Judul asli:Up to 3.2x Faster Inference with LFM2.5-DSpark
Ringkasan AI
Hugging Face merilis checkpoint model draf DSpark untuk tiga model seri LFM2.5. Melalui decoding spekulatif, throughput GPU meningkat hingga 3,18 kali dan hingga 2,87 kali di perangkat tepi tanpa mengubah kualitas keluaran. Model draf ini berukuran sekitar 300M parameter, menurunkan latensi pemanggilan fungsi LFM2.5-2.6B rata-rata 57%, dan telah dirilis sebagai sumber terbuka dengan dukungan llama.cpp serta SGLang.
Poin utama
- Hugging Face merilis checkpoint model draf DSpark untuk tiga model seri LFM2.
- Melalui decoding spekulatif,throughput GPU meningkat hingga 3,18 kali dan hingga 2,87 kali di…
- Model draf ini berukuran sekitar 300M parameter,menurunkan latensi pemanggilan fungsi LFM2.
- 6B rata-rata 57%,dan telah dirilis sebagai sumber terbuka dengan dukungan llama.
- cpp serta SGLang.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Hugging Face 社区博客(混合发现)
- Kategori
- Rilis Model
- Skor AI
- 61
约300M参数的draft模型换最高3.18倍吞吐,贪心输出不变,LFM2.5-2.6B在M4 Max达139 tok/s,本地agent门槛被拉低。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Hugging Face merilis model draf DSpark seri LFM2.5, kecepatan penalaran hingga 3,18 kali lebih tinggi. 21 Agustus 2026. https://new.nat6.net/id/news/cmt1rv5n8066iroovaxgoej1b/