Mga Papel at Pananaliksik

Ang Baidu Baihe at Fudan University ay nagpanukala ng LU-KV framework, tinanggap sa ICML 2026

Orihinal na pamagat:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

AI summary

Ang koponan ng Baidu Baihe at Fudan University ay magkasanib na nagpanukala ng Long-horizon Utility KV (LU-KV) framework, na nagmomodelo ng head-level KV Cache budget allocation bilang global combinatorial optimization problem para sa long-horizon marginal utility. Ang LU-KV ay nagtatantya ng marginal contribution curve ng attention head sa pamamagitan ng offline profiling, at pinagsama ang convex hull relaxation at marginal utility-based greedy solver, upang makakuha ng near-optimal budget configuration sa mababang overhead, at umaangkop sa iba't ibang compression method tulad ng SnapKV at KeyDiff. Sa LongBench at RULER benchmark, maliit ang performance loss sa 80% compression ratio, at nababawasan ang memory usage at inference latency. Ang kaugnay na papel ay tinanggap sa ICML 2026.

Mahahalagang impormasyon

  • Ang koponan ng Baidu Baihe at Fudan University ay magkasanib na nagpanukala ng Long-horizon…
  • Ang LU-KV ay nagtatantya ng marginal contribution curve ng attention head sa pamamagitan ng…
  • Sa LongBench at RULER benchmark,maliit ang performance loss sa 80% compression ratio,at…
  • Ang kaugnay na papel ay tinanggap sa ICML 2026.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
公众号:百度智能云(文心)
Kategorya
Mga Papel at Pananaliksik
AI na marka
63
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Ang Baidu Baihe at Fudan University ay nagpanukala ng LU-KV framework, tinanggap sa ICML 2026. 10 Hunyo 2026. https://new.nat6.net/fil/news/cmq7w1nzi028nslepn0azwdsg/

Tingnan lahat →