Релизы моделей

Hugging Face выпустила черновые модели DSpark серии LFM2.5 с ускорением инференса до 3.18×

Оригинальный заголовок:Up to 3.2x Faster Inference with LFM2.5-DSpark

ИИ-резюме

Hugging Face выпустила контрольные точки черновых моделей DSpark для трёх моделей серии LFM2.5. За счёт спекулятивного декодирования пропускная способность GPU выросла до 3.18×, на периферийных устройствах — до 2.87×, без изменения качества вывода. Черновая модель содержит около 300M параметров; задержка вызова функций LFM2.5-2.6B снизилась в среднем на 57%. Код открыт, поддерживаются llama.cpp и SGLang.

Ключевые моменты

  • Hugging Face выпустила контрольные точки черновых моделей DSpark для трёх моделей серии LFM2.
  • За счёт спекулятивного декодирования пропускная способность GPU выросла до 3.
  • 18×,на периферийных устройствах — до 2.
  • 87×,без изменения качества вывода.
  • Черновая модель содержит около 300M параметров

Кратко

Опубликовано
Обновлено
Источник
Hugging Face 社区博客(混合发现)
Категория
Релизы моделей
Оценка ИИ
61
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

约300M参数的draft模型换最高3.18倍吞吐,贪心输出不变,LFM2.5-2.6B在M4 Max达139 tok/s,本地agent门槛被拉低。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Hugging Face выпустила черновые модели DSpark серии LFM2.5 с ускорением инференса до 3.18×. 21 августа 2026. https://new.nat6.net/ru/news/cmt1rv5n8066iroovaxgoej1b/

Смотреть все →