Статьи и исследования

Baidu Baihe и Fudan предложили фреймворк LU-KV, принятый на ICML 2026

Оригинальный заголовок:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

ИИ-резюме

Команда Baidu Baihe совместно с Fudan University предложила фреймворк Long-horizon Utility KV (LU-KV), моделирующий распределение бюджета KV Cache на уровне голов как глобальную комбинаторную оптимизацию с учётом долгосрочной предельной полезности. LU-KV оценивает кривые предельного вклада голов внимания с помощью офлайн-профилирования, сочетает выпуклую релаксацию с жадным решателем на основе предельной полезности и при низких затратах получает близкую к оптимальной конфигурацию бюджета, совместимую с различными методами сжатия, включая SnapKV и KeyDiff. На бенчмарках LongBench и RULER при 80% сжатии потери производительности малы, снижаются затраты видеопамяти и задержка рассуждений. Статья принята на ICML 2026.

Ключевые моменты

  • Команда Baidu Baihe совместно с Fudan University предложила фреймворк Long-horizon Utility KV…
  • LU-KV оценивает кривые предельного вклада голов внимания с помощью офлайн-профилирования,сочетает…
  • На бенчмарках LongBench и RULER при 80% сжатии потери производительности малы,снижаются затраты…
  • Статья принята на ICML 2026.

Кратко

Опубликовано
Обновлено
Источник
公众号:百度智能云(文心)
Категория
Статьи и исследования
Оценка ИИ
63
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Baidu Baihe и Fudan предложили фреймворк LU-KV, принятый на ICML 2026. 10 июня 2026. https://new.nat6.net/ru/news/cmq7w1nzi028nslepn0azwdsg/

Смотреть все →