Baidu BaiGe y la Universidad Fudan proponen el marco LU-KV, aceptado en ICML 2026
Título original:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
Resumen de IA
El equipo BaiGe de Baidu y la Universidad Fudan proponen el marco Long-horizon Utility KV (LU-KV), que modela la asignación de presupuesto de KV Cache a nivel de cabeza como un problema de optimización combinatoria global orientado a la utilidad marginal de largo alcance. LU-KV estima fuera de línea las curvas de contribución marginal de las cabezas de atención y, combinando la relajación de la envolvente convexa con un solucionador voraz basado en la utilidad marginal, obtiene configuraciones de presupuesto casi óptimas con bajo coste y se adapta a diversos métodos de compresión como SnapKV y KeyDiff. En los benchmarks LongBench y RULER, con una compresión del 80% la pérdida de rendimiento es pequeña y se reducen el uso de memoria y la latencia de inferencia. El artículo ha sido aceptado en ICML 2026.
Puntos clave
- El equipo BaiGe de Baidu y la Universidad Fudan proponen el marco Long-horizon Utility KV…
- LU-KV estima fuera de línea las curvas de contribución marginal de las cabezas de atención…
- En los benchmarks LongBench y RULER,con una compresión del 80% la pérdida de rendimiento es…
- El artículo ha sido aceptado en ICML 2026.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- 公众号:百度智能云(文心)
- Categoría
- Artículos e investigación
- Puntuación IA
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Baidu BaiGe y la Universidad Fudan proponen el marco LU-KV, aceptado en ICML 2026. 10. junio 2026. https://new.nat6.net/es/news/cmq7w1nzi028nslepn0azwdsg/