模型发布

Liquid AI 发布 LFM2.5 系列 QAD Q4_0 量化检查点,恢复 97% 精度损失

原文标题:LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation

AI 摘要

Liquid AI 发布基于量化感知蒸馏(QAD)训练的 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 四款 Q4_0 GGUF 检查点,在保持原生 Q4_0 内存与速度的同时,恢复 BF16 平均精度损失的 97%。

关键信息

  • Liquid AI 发布基于量化感知蒸馏(QAD)训练的 LFM2.
  • 5-230M、350M、1.
  • 2B-Instruct 和 2.
  • 6B 四款 Q4_0 GGUF 检查点,在保持原生 Q4_0 内存与速度的同时,恢复 BF16 平均精度损失的 97%
  • QAD 量化蒸馏恢复 Q4_0 模型九成六以上 BF16 精度,对应树莓派和手机等边缘设备,在保持低内存与高吞吐的同时缩小与全精度模型的差距

速览

发布时间
更新时间
来源
Hugging Face 社区博客(混合发现)
分类
模型发布
AI 评分
64
阅读原文 前往信息源阅读完整正文
推荐理由

QAD 量化蒸馏恢复 Q4_0 模型九成六以上 BF16 精度,对应树莓派和手机等边缘设备,在保持低内存与高吞吐的同时缩小与全精度模型的差距。

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Liquid AI 发布 LFM2.5 系列 QAD Q4_0 量化检查点,恢复 97% 精度损失。2026年8月19日。https://new.nat6.net/news/cmt05zhyg139trodp6bxsy9e2/

查看全部 →