Artículos e investigación

Baidu BaiGe y la Universidad Fudan proponen el marco LU-KV, aceptado en ICML 2026

Título original:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

Resumen de IA

El equipo BaiGe de Baidu y la Universidad Fudan proponen el marco Long-horizon Utility KV (LU-KV), que modela la asignación de presupuesto de KV Cache a nivel de cabeza como un problema de optimización combinatoria global orientado a la utilidad marginal de largo alcance. LU-KV estima fuera de línea las curvas de contribución marginal de las cabezas de atención y, combinando la relajación de la envolvente convexa con un solucionador voraz basado en la utilidad marginal, obtiene configuraciones de presupuesto casi óptimas con bajo coste y se adapta a diversos métodos de compresión como SnapKV y KeyDiff. En los benchmarks LongBench y RULER, con una compresión del 80% la pérdida de rendimiento es pequeña y se reducen el uso de memoria y la latencia de inferencia. El artículo ha sido aceptado en ICML 2026.

Puntos clave

  • El equipo BaiGe de Baidu y la Universidad Fudan proponen el marco Long-horizon Utility KV…
  • LU-KV estima fuera de línea las curvas de contribución marginal de las cabezas de atención…
  • En los benchmarks LongBench y RULER,con una compresión del 80% la pérdida de rendimiento es…
  • El artículo ha sido aceptado en ICML 2026.

Resumen rápido

Publicado
Actualizado
Fuente
公众号:百度智能云(文心)
Categoría
Artículos e investigación
Puntuación IA
63
Leer el original Leer el artículo completo en la fuente original
Por qué importa

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Baidu BaiGe y la Universidad Fudan proponen el marco LU-KV, aceptado en ICML 2026. 10. junio 2026. https://new.nat6.net/es/news/cmq7w1nzi028nslepn0azwdsg/

Ver todo →