Kertas penyelidikan

Baidu BaiGe bersama Fudan cadang rangka kerja LU-KV, diterima ICML 2026

Tajuk asal:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

Ringkasan AI

Pasukan Baidu BaiGe bersama Universiti Fudan mencadangkan rangka kerja Long-horizon Utility KV (LU-KV), yang memodelkan peruntukan bajet KV Cache peringkat kepala sebagai masalah pengoptimuman gabungan global berorientasikan utiliti marginal jangka panjang. LU-KV menganggar lengkung sumbangan marginal kepala perhatian melalui profil luar talian, digabungkan dengan kelonggaran hull cembung dan penyelesai tamak berasaskan utiliti marginal, memperoleh konfigurasi bajet hampir optimum dengan overhed rendah, dan boleh disesuaikan dengan pelbagai kaedah pemampatan seperti SnapKV dan KeyDiff. Pada penanda aras LongBench dan RULER, kehilangan prestasi kecil pada nisbah mampatan 80%, mengurangkan penggunaan memori video dan kependaman inferens. Kertas kerja berkaitan diterima ICML 2026.

Maklumat penting

  • Pasukan Baidu BaiGe bersama Universiti Fudan mencadangkan rangka kerja Long-horizon Utility KV…
  • LU-KV menganggar lengkung sumbangan marginal kepala perhatian melalui profil luar…
  • Pada penanda aras LongBench dan RULER,kehilangan prestasi kecil pada nisbah mampatan…
  • Kertas kerja berkaitan diterima ICML 2026.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
公众号:百度智能云(文心)
Kategori
Kertas penyelidikan
Skor AI
63
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Baidu BaiGe bersama Fudan cadang rangka kerja LU-KV, diterima ICML 2026. 10 Jun 2026. https://new.nat6.net/ms/news/cmq7w1nzi028nslepn0azwdsg/

Lihat Semua →