Hugging Face ने LFM2.5 श्रृंखला के DSpark ड्राफ्ट मॉडल जारी किए, अनुमान गति अधिकतम 3.18 गुना बढ़ी
मूल शीर्षक:Up to 3.2x Faster Inference with LFM2.5-DSpark
AI सारांश
Hugging Face ने LFM2.5 श्रृंखला के तीन मॉडलों के DSpark ड्राफ्ट मॉडल चेकपॉइंट जारी किए हैं। स्पेक्युलेटिव डिकोडिंग के माध्यम से आउटपुट गुणवत्ता बदले बिना GPU थ्रूपुट अधिकतम 3.18 गुना और डिवाइस पर अधिकतम 2.87 गुना बढ़ता है। ड्राफ्ट मॉडल में लगभग 300M पैरामीटर हैं, LFM2.5-2.6B में फंक्शन कॉल विलंब औसतन 57% कम हुआ, और यह ओपन-सोर्स है तथा llama.cpp और SGLang का समर्थन करता है।
मुख्य जानकारी
- Hugging Face ने LFM2.
- 5 श्रृंखला के तीन मॉडलों के DSpark ड्राफ्ट मॉडल चेकपॉइंट जारी किए हैं। स्पेक्युलेटिव डिकोडिंग के…
- 18 गुना और डिवाइस पर अधिकतम 2.
- 87 गुना बढ़ता है। ड्राफ्ट मॉडल में लगभग 300M पैरामीटर हैं,LFM2.
- 6B में फंक्शन कॉल विलंब औसतन 57% कम हुआ,और यह ओपन-सोर्स है तथा llama.
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- Hugging Face 社区博客(混合发现)
- श्रेणी
- मॉडल लॉन्च
- AI स्कोर
- 61
约300M参数的draft模型换最高3.18倍吞吐,贪心输出不变,LFM2.5-2.6B在M4 Max达139 tok/s,本地agent门槛被拉低。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Hugging Face ने LFM2.5 श्रृंखला के DSpark ड्राफ्ट मॉडल जारी किए, अनुमान गति अधिकतम 3.18 गुना बढ़ी। 21 अगस्त 2026। https://new.nat6.net/hi/news/cmt1rv5n8066iroovaxgoej1b/