Baidu Baiqe et Fudan proposent le cadre LU-KV, accepté à ICML 2026
Titre original:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
Résumé IA
L'équipe Baidu Baiqe et l'université Fudan proposent le cadre Long-horizon Utility KV (LU-KV), qui modélise l'allocation du budget de KV Cache par tête comme un problème d'optimisation combinatoire globale fondé sur l'utilité marginale à long terme. LU-KV estime hors ligne les courbes de contribution marginale des têtes d'attention, puis combine une relaxation par enveloppe convexe et un solveur glouton fondé sur l'utilité marginale pour obtenir, à faible coût, une configuration de budget proche de l'optimum, compatible avec diverses méthodes de compression comme SnapKV et KeyDiff. Sur les benchmarks LongBench et RULER, la perte de performance reste faible à un taux de compression de 80 %, avec une réduction de l'occupation mémoire et de la latence d'inférence. L'article associé est accepté à ICML 2026.
Points clés
- L'équipe Baidu Baiqe et l'université Fudan proposent le cadre Long-horizon Utility KV (LU-KV),qui…
- LU-KV estime hors ligne les courbes de contribution marginale des têtes d'attention,puis combine…
- Sur les benchmarks LongBench et RULER,la perte de performance reste faible à un taux de…
- L'article associé est accepté à ICML 2026.
En bref
- Publié
- Mis à jour
- Source
- 公众号:百度智能云(文心)
- Catégorie
- Articles et recherche
- Score IA
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Baidu Baiqe et Fudan proposent le cadre LU-KV, accepté à ICML 2026. 10. juin 2026. https://new.nat6.net/fr/news/cmq7w1nzi028nslepn0azwdsg/