Ang Baidu Baihe at Fudan University ay nagpanukala ng LU-KV framework, tinanggap sa ICML 2026
Orihinal na pamagat:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
AI summary
Ang koponan ng Baidu Baihe at Fudan University ay magkasanib na nagpanukala ng Long-horizon Utility KV (LU-KV) framework, na nagmomodelo ng head-level KV Cache budget allocation bilang global combinatorial optimization problem para sa long-horizon marginal utility. Ang LU-KV ay nagtatantya ng marginal contribution curve ng attention head sa pamamagitan ng offline profiling, at pinagsama ang convex hull relaxation at marginal utility-based greedy solver, upang makakuha ng near-optimal budget configuration sa mababang overhead, at umaangkop sa iba't ibang compression method tulad ng SnapKV at KeyDiff. Sa LongBench at RULER benchmark, maliit ang performance loss sa 80% compression ratio, at nababawasan ang memory usage at inference latency. Ang kaugnay na papel ay tinanggap sa ICML 2026.
Mahahalagang impormasyon
- Ang koponan ng Baidu Baihe at Fudan University ay magkasanib na nagpanukala ng Long-horizon…
- Ang LU-KV ay nagtatantya ng marginal contribution curve ng attention head sa pamamagitan ng…
- Sa LongBench at RULER benchmark,maliit ang performance loss sa 80% compression ratio,at…
- Ang kaugnay na papel ay tinanggap sa ICML 2026.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- 公众号:百度智能云(文心)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Ang Baidu Baihe at Fudan University ay nagpanukala ng LU-KV framework, tinanggap sa ICML 2026. 10 Hunyo 2026. https://new.nat6.net/fil/news/cmq7w1nzi028nslepn0azwdsg/