Baidu Baihe hợp tác Đại học Phúc Đán đề xuất khung LU-KV, được ICML 2026 chấp nhận
Tiêu đề gốc:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA
Tóm tắt AI
Nhóm Baihe của Baidu hợp tác với Đại học Phúc Đán đề xuất khung Long-horizon Utility KV (LU-KV), mô hình hóa phân bổ ngân sách KV Cache cấp đầu thành bài toán tối ưu tổ hợp toàn cục hướng tới lợi ích biên dài hạn. LU-KV ước lượng đường cong đóng góp biên của đầu chú ý qua hồ sơ ngoại tuyến, kết hợp nới lỏng bao lồi và bộ giải tham lam dựa trên lợi ích biên, đạt cấu hình ngân sách gần tối ưu với chi phí thấp, có thể thích ứng nhiều phương pháp nén như SnapKV, KeyDiff. Trên chuẩn LongBench và RULER, ở tỷ lệ nén 80% tổn thất hiệu năng nhỏ, giảm chiếm dụng bộ nhớ hiển thị và độ trễ suy luận. Bài báo liên quan được ICML 2026 chấp nhận.
Thông tin chính
- Nhóm Baihe của Baidu hợp tác với Đại học Phúc Đán đề xuất khung Long-horizon Utility KV (LU-KV),mô…
- LU-KV ước lượng đường cong đóng góp biên của đầu chú ý qua hồ sơ ngoại tuyến,kết hợp nới lỏng bao…
- Trên chuẩn LongBench và RULER,ở tỷ lệ nén 80% tổn thất hiệu năng nhỏ,giảm chiếm dụng bộ nhớ hiển…
- Bài báo liên quan được ICML 2026 chấp nhận.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- 公众号:百度智能云(文心)
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 63
ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Baidu Baihe hợp tác Đại học Phúc Đán đề xuất khung LU-KV, được ICML 2026 chấp nhận. 10 tháng 6 2026. https://new.nat6.net/vi/news/cmq7w1nzi028nslepn0azwdsg/