Rilis Model

Hugging Face merilis model draf DSpark seri LFM2.5, kecepatan penalaran hingga 3,18 kali lebih tinggi

Judul asli:Up to 3.2x Faster Inference with LFM2.5-DSpark

Ringkasan AI

Hugging Face merilis checkpoint model draf DSpark untuk tiga model seri LFM2.5. Melalui decoding spekulatif, throughput GPU meningkat hingga 3,18 kali dan hingga 2,87 kali di perangkat tepi tanpa mengubah kualitas keluaran. Model draf ini berukuran sekitar 300M parameter, menurunkan latensi pemanggilan fungsi LFM2.5-2.6B rata-rata 57%, dan telah dirilis sebagai sumber terbuka dengan dukungan llama.cpp serta SGLang.

Poin utama

  • Hugging Face merilis checkpoint model draf DSpark untuk tiga model seri LFM2.
  • Melalui decoding spekulatif,throughput GPU meningkat hingga 3,18 kali dan hingga 2,87 kali di…
  • Model draf ini berukuran sekitar 300M parameter,menurunkan latensi pemanggilan fungsi LFM2.
  • 6B rata-rata 57%,dan telah dirilis sebagai sumber terbuka dengan dukungan llama.
  • cpp serta SGLang.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Hugging Face 社区博客(混合发现)
Kategori
Rilis Model
Skor AI
61
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

约300M参数的draft模型换最高3.18倍吞吐,贪心输出不变,LFM2.5-2.6B在M4 Max达139 tok/s,本地agent门槛被拉低。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Hugging Face merilis model draf DSpark seri LFM2.5, kecepatan penalaran hingga 3,18 kali lebih tinggi. 21 Agustus 2026. https://new.nat6.net/id/news/cmt1rv5n8066iroovaxgoej1b/

Lihat semua →