บทความและงานวิจัย

Baidu BaiGe ร่วมกับ Fudan เสนอกรอบ LU-KV ได้รับตอบรับใน ICML 2026

หัวข้อต้นฉบับ:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

สรุปโดย AI

ทีม Baidu BaiGe ร่วมมือกับมหาวิทยาลัย Fudan เสนอกกรอบ Long-horizon Utility KV (LU-KV) โดยสร้างแบบจำลองการจัดสรรงบประมาณ KV Cache ระดับหัวเป็นปัญหาการปรับให้เหมาะสมแบบผสมผสานระดับโลกที่มุ่งสู่ประโยชน์ส่วนเพิ่มระยะยาว LU-KV ประมาณเส้นโค้งส่วนเพิ่มของหัวความสนใจด้วยการทำโปรไฟล์ออฟไลน์ ร่วมกับการผ่อนคลายแบบ convex hull และตัวแก้ปัญหาแบบ greedy ตามประโยชน์ส่วนเพิ่ม ทำให้ได้การจัดสรรงบประมาณใกล้เคียงเหมาะสมที่สุดด้วยค่าใช้จ่ายต่ำ และใช้ได้กับวิธีการบีบอัดหลายประเภท เช่น SnapKV และ KeyDiff บน基準 LongBench และ RULER ที่อัตราบีบอัด 80% สูญเสียประสิทธิภาพเล็กน้อย ลดการใช้หน่วยความจำและความหน่วงในการอนุมาน บทความที่เกี่ยวข้องได้รับการตอบรับใน ICML 2026

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
公众号:百度智能云(文心)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
63
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Baidu BaiGe ร่วมกับ Fudan เสนอกรอบ LU-KV ได้รับตอบรับใน ICML 2026 10 มิถุนายน 2026 https://new.nat6.net/th/news/cmq7w1nzi028nslepn0azwdsg/

ดูทั้งหมด →