Baidu BaiGe bersama Fudan cadang rangka kerja LU-KV, diterima ICML 2026
Tajuk asal:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
Ringkasan AI
Pasukan Baidu BaiGe bersama Universiti Fudan mencadangkan rangka kerja Long-horizon Utility KV (LU-KV), yang memodelkan peruntukan bajet KV Cache peringkat kepala sebagai masalah pengoptimuman gabungan global berorientasikan utiliti marginal jangka panjang. LU-KV menganggar lengkung sumbangan marginal kepala perhatian melalui profil luar talian, digabungkan dengan kelonggaran hull cembung dan penyelesai tamak berasaskan utiliti marginal, memperoleh konfigurasi bajet hampir optimum dengan overhed rendah, dan boleh disesuaikan dengan pelbagai kaedah pemampatan seperti SnapKV dan KeyDiff. Pada penanda aras LongBench dan RULER, kehilangan prestasi kecil pada nisbah mampatan 80%, mengurangkan penggunaan memori video dan kependaman inferens. Kertas kerja berkaitan diterima ICML 2026.
Maklumat penting
- Pasukan Baidu BaiGe bersama Universiti Fudan mencadangkan rangka kerja Long-horizon Utility KV…
- LU-KV menganggar lengkung sumbangan marginal kepala perhatian melalui profil luar…
- Pada penanda aras LongBench dan RULER,kehilangan prestasi kecil pada nisbah mampatan…
- Kertas kerja berkaitan diterima ICML 2026.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- 公众号:百度智能云(文心)
- Kategori
- Kertas penyelidikan
- Skor AI
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Baidu BaiGe bersama Fudan cadang rangka kerja LU-KV, diterima ICML 2026. 10 Jun 2026. https://new.nat6.net/ms/news/cmq7w1nzi028nslepn0azwdsg/