Baidu BaiGe और फुदान ने LU-KV फ्रेमवर्क प्रस्तावित किया, ICML 2026 में स्वीकृत
मूल शीर्षक:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
AI सारांश
Baidu BaiGe टीम और फुदान विश्वविद्यालय ने मिलकर Long-horizon Utility KV (LU-KV) फ्रेमवर्क प्रस्तावित किया है, जो हेड-स्तरीय KV Cache बजट आवंटन को दीर्घकालिक सीमांत उपयोगिता के लिए वैश्विक संयोजन अनुकूलन समस्या के रूप में मॉडल करता है। LU-KV ऑफ़लाइन प्रोफाइलिंग से ध्यान हेड के सीमांत योगदान वक्र का अनुमान लगाता है, उत्तल आवरण शिथिलीकरण और सीमांत उपयोगिता आधारित लालची सॉल्वर के साथ कम लागत में लगभग इष्टतम बजट कॉन्फ़िगरेशन प्राप्त करता है, और SnapKV, KeyDiff जैसी कई संपीड़न विधियों के अनुकूल है। LongBench और RULER बेंचमार्क पर 80% संपीड़न अनुपात में प्रदर्शन हानि कम है, जिससे VRAM उपयोग और अनुमान विलंबता घटती है। संबंधित पेपर ICML 2026 में स्वीकृत हुआ है।
मुख्य जानकारी
- Baidu BaiGe टीम और फुदान विश्वविद्यालय ने मिलकर Long-horizon Utility KV (LU-KV) फ्रेमवर्क…
- उत्तल आवरण शिथिलीकरण और सीमांत उपयोगिता आधारित लालची सॉल्वर के साथ कम लागत में लगभग इष्टतम बजट…
- और SnapKV,KeyDiff जैसी कई संपीड़न विधियों के अनुकूल है। LongBench और RULER बेंचमार्क पर 80%…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- 公众号:百度智能云(文心)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Baidu BaiGe और फुदान ने LU-KV फ्रेमवर्क प्रस्तावित किया, ICML 2026 में स्वीकृत। 10 जून 2026। https://new.nat6.net/hi/news/cmq7w1nzi028nslepn0azwdsg/