Hugging Face выпустила черновые модели DSpark серии LFM2.5 с ускорением инференса до 3.18×
Оригинальный заголовок:Up to 3.2x Faster Inference with LFM2.5-DSpark
ИИ-резюме
Hugging Face выпустила контрольные точки черновых моделей DSpark для трёх моделей серии LFM2.5. За счёт спекулятивного декодирования пропускная способность GPU выросла до 3.18×, на периферийных устройствах — до 2.87×, без изменения качества вывода. Черновая модель содержит около 300M параметров; задержка вызова функций LFM2.5-2.6B снизилась в среднем на 57%. Код открыт, поддерживаются llama.cpp и SGLang.
Ключевые моменты
- Hugging Face выпустила контрольные точки черновых моделей DSpark для трёх моделей серии LFM2.
- За счёт спекулятивного декодирования пропускная способность GPU выросла до 3.
- 18×,на периферийных устройствах — до 2.
- 87×,без изменения качества вывода.
- Черновая модель содержит около 300M параметров
Кратко
- Опубликовано
- Обновлено
- Источник
- Hugging Face 社区博客(混合发现)
- Категория
- Релизы моделей
- Оценка ИИ
- 61
约300M参数的draft模型换最高3.18倍吞吐,贪心输出不变,LFM2.5-2.6B在M4 Max达139 tok/s,本地agent门槛被拉低。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Hugging Face выпустила черновые модели DSpark серии LFM2.5 с ускорением инференса до 3.18×. 21 августа 2026. https://new.nat6.net/ru/news/cmt1rv5n8066iroovaxgoej1b/