论文与研究

百度百舸联合复旦提出LU-KV框架,被ICML 2026录用

原文标题:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

AI 摘要

百度百舸团队与复旦大学合作提出Long-horizon Utility KV(LU-KV)框架,将头级KV Cache预算分配建模为面向长程边际效用的全局组合优化问题。LU-KV通过离线画像估计注意力头边际贡献曲线,结合凸包松弛与基于边际效用的贪心求解器,在较低开销下得到接近最优的预算配置,可适配SnapKV、KeyDiff等多类压缩方法。在LongBench和RULER基准上,80%压缩比下性能损失小,降低显存占用和推理延迟。相关论文被ICML 2026录用。

关键信息

  • 百度百舸团队与复旦大学合作提出Long-horizon Utility KV(LU-KV)框架,将头级KV Cache预算分配建模为面向长程边际效用的全局组合优化问题。
  • LU-KV通过离线画像估计注意力头边际贡献曲线,结合凸包松弛与基于边际效用的贪心求解器,在较低开销下得到接近最优的预算配置,可适配SnapKV、KeyDiff等多类压缩方法。
  • 在LongBench和RULER基准上,80%压缩比下性能损失小,降低显存占用和推理延迟。
  • 相关论文被ICML 2026录用
  • ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读

速览

发布时间
更新时间
来源
公众号:百度智能云(文心)
分类
论文与研究
AI 评分
63
阅读原文 前往信息源阅读完整正文
推荐理由

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:百度百舸联合复旦提出LU-KV框架,被ICML 2026录用。2026年6月10日。https://new.nat6.net/news/cmq7w1nzi028nslepn0azwdsg/

查看全部 →
  • Hugging Face 博客发布语音智能体代码切换基准测试

    Hugging Face 博客发布针对语音智能体处理代码切换语音的基准测试。数据集覆盖西班牙语‑英语、法语‑英语、加拿大法语‑英语和德语‑英语四对语言,基于人力资源与IT服务管理场景构建。采用词错误率、语义词错误率和答案错误率三项指标评估…

    Hugging Face 社区博客(混合发现)论文与研究AI 评分 67

  • Google Research提出审计机器遗忘新框架

    Google Research 在 AISTATS 2026 发表正则化 f-散度核检验,用于高效审计 LLM 等模型的机器遗忘。该方法通过统计两样本检验判断模型是否真正“忘记”特定训练数据,避免完全重训的巨大成本。相比最大均值差异等现有…

    Google Research:Blog(网页)论文与研究AI 评分 63

  • Perplexity与哈佛:AI智能体提效87%降本94%

    我们与哈佛大学发表新研究,关于从聊天界面转向像Computer这样的自主智能体的转变。 超过3个月的研究结果表明,使用Computer的工人在完成任务上比仅使用搜索快87%,成本低94%,且满意度更高。 https://research.…

    X:Perplexity (@perplexity_ai)论文与研究AI 评分 76

  • 伯克利RDI发布Agents' Last Exam基准

    2026年6月,伯克利RDI发布Agents’ Last Exam(ALE)基准,包含1,500余项源于真实工作的任务,覆盖55个非体力职业。对Fable 5、GPT-5.5、Composer 2.5等前沿智能体的测评显示:在最困难层级成…

    Berkeley RDI:Blog(AI 安全与评测)论文与研究AI 评分 83