Baidu Baihe и Fudan предложили фреймворк LU-KV, принятый на ICML 2026
Оригинальный заголовок:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
ИИ-резюме
Команда Baidu Baihe совместно с Fudan University предложила фреймворк Long-horizon Utility KV (LU-KV), моделирующий распределение бюджета KV Cache на уровне голов как глобальную комбинаторную оптимизацию с учётом долгосрочной предельной полезности. LU-KV оценивает кривые предельного вклада голов внимания с помощью офлайн-профилирования, сочетает выпуклую релаксацию с жадным решателем на основе предельной полезности и при низких затратах получает близкую к оптимальной конфигурацию бюджета, совместимую с различными методами сжатия, включая SnapKV и KeyDiff. На бенчмарках LongBench и RULER при 80% сжатии потери производительности малы, снижаются затраты видеопамяти и задержка рассуждений. Статья принята на ICML 2026.
Ключевые моменты
- Команда Baidu Baihe совместно с Fudan University предложила фреймворк Long-horizon Utility KV…
- LU-KV оценивает кривые предельного вклада голов внимания с помощью офлайн-профилирования,сочетает…
- На бенчмарках LongBench и RULER при 80% сжатии потери производительности малы,снижаются затраты…
- Статья принята на ICML 2026.
Кратко
- Опубликовано
- Обновлено
- Источник
- 公众号:百度智能云(文心)
- Категория
- Статьи и исследования
- Оценка ИИ
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Baidu Baihe и Fudan предложили фреймворк LU-KV, принятый на ICML 2026. 10 июня 2026. https://new.nat6.net/ru/news/cmq7w1nzi028nslepn0azwdsg/