Baidu BaiGe ร่วมกับ Fudan เสนอกรอบ LU-KV ได้รับตอบรับใน ICML 2026
หัวข้อต้นฉบับ:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
สรุปโดย AI
ทีม Baidu BaiGe ร่วมมือกับมหาวิทยาลัย Fudan เสนอกกรอบ Long-horizon Utility KV (LU-KV) โดยสร้างแบบจำลองการจัดสรรงบประมาณ KV Cache ระดับหัวเป็นปัญหาการปรับให้เหมาะสมแบบผสมผสานระดับโลกที่มุ่งสู่ประโยชน์ส่วนเพิ่มระยะยาว LU-KV ประมาณเส้นโค้งส่วนเพิ่มของหัวความสนใจด้วยการทำโปรไฟล์ออฟไลน์ ร่วมกับการผ่อนคลายแบบ convex hull และตัวแก้ปัญหาแบบ greedy ตามประโยชน์ส่วนเพิ่ม ทำให้ได้การจัดสรรงบประมาณใกล้เคียงเหมาะสมที่สุดด้วยค่าใช้จ่ายต่ำ และใช้ได้กับวิธีการบีบอัดหลายประเภท เช่น SnapKV และ KeyDiff บน基準 LongBench และ RULER ที่อัตราบีบอัด 80% สูญเสียประสิทธิภาพเล็กน้อย ลดการใช้หน่วยความจำและความหน่วงในการอนุมาน บทความที่เกี่ยวข้องได้รับการตอบรับใน ICML 2026
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- 公众号:百度智能云(文心)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Baidu BaiGe ร่วมกับ Fudan เสนอกรอบ LU-KV ได้รับตอบรับใน ICML 2026 10 มิถุนายน 2026 https://new.nat6.net/th/news/cmq7w1nzi028nslepn0azwdsg/