เปิดตัวโมเดล

Hugging Face เปิดตัวโมเดลร่าง DSpark ซีรีส์ LFM2.5 เพิ่มความเร็วในการอนุมานสูงสุด 3.18 เท่า

หัวข้อต้นฉบับ:Up to 3.2x Faster Inference with LFM2.5-DSpark

สรุปโดย AI

Hugging Face เปิดตัวเช็กพอยต์โมเดลร่าง DSpark ของโมเดลสามรุ่นในซีรีส์ LFM2.5 โดยใช้การถอดรหัสเชิงคาดการณ์ (speculative decoding) ช่วยเพิ่มปริมาณงานของ GPU สูงสุด 3.18 เท่า และบนอุปกรณ์ปลายทางสูงสุด 2.87 เท่า โดยไม่เปลี่ยนแปลงคุณภาพของผลลัพธ์ โมเดลร่างมีพารามิเตอร์ประมาณ 300M ทำให้ความหน่วงในการเรียกใช้ฟังก์ชันของ LFM2.5-2.6B ลดลงเฉลี่ย 57% และเปิดโอเพนซอร์สรองรับ llama.cpp และ SGLang แล้ว

ข้อมูลสำคัญ

  • Hugging Face เปิดตัวเช็กพอยต์โมเดลร่าง DSpark ของโมเดลสามรุ่นในซีรีส์ LFM2.
  • 5 โดยใช้การถอดรหัสเชิงคาดการณ์ (speculative decoding) ช่วยเพิ่มปริมาณงานของ GPU สูงสุด 3.
  • 18 เท่า และบนอุปกรณ์ปลายทางสูงสุด 2.
  • 87 เท่า โดยไม่เปลี่ยนแปลงคุณภาพของผลลัพธ์ โมเดลร่างมีพารามิเตอร์ประมาณ 300M…
  • 6B ลดลงเฉลี่ย 57% และเปิดโอเพนซอร์สรองรับ llama.

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Hugging Face 社区博客(混合发现)
หมวดหมู่
เปิดตัวโมเดล
คะแนน AI
61
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

约300M参数的draft模型换最高3.18倍吞吐,贪心输出不变,LFM2.5-2.6B在M4 Max达139 tok/s,本地agent门槛被拉低。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Hugging Face เปิดตัวโมเดลร่าง DSpark ซีรีส์ LFM2.5 เพิ่มความเร็วในการอนุมานสูงสุด 3.18 เท่า 21 สิงหาคม 2026 https://new.nat6.net/th/news/cmt1rv5n8066iroovaxgoej1b/

ดูทั้งหมด →