Bài báo & nghiên cứu

Baidu Baihe hợp tác Đại học Phúc Đán đề xuất khung LU-KV, được ICML 2026 chấp nhận

Tiêu đề gốc:顶会入选!百度百舸联合复旦大学刷新KV Cache压缩SOTA

Tóm tắt AI

Nhóm Baihe của Baidu hợp tác với Đại học Phúc Đán đề xuất khung Long-horizon Utility KV (LU-KV), mô hình hóa phân bổ ngân sách KV Cache cấp đầu thành bài toán tối ưu tổ hợp toàn cục hướng tới lợi ích biên dài hạn. LU-KV ước lượng đường cong đóng góp biên của đầu chú ý qua hồ sơ ngoại tuyến, kết hợp nới lỏng bao lồi và bộ giải tham lam dựa trên lợi ích biên, đạt cấu hình ngân sách gần tối ưu với chi phí thấp, có thể thích ứng nhiều phương pháp nén như SnapKV, KeyDiff. Trên chuẩn LongBench và RULER, ở tỷ lệ nén 80% tổn thất hiệu năng nhỏ, giảm chiếm dụng bộ nhớ hiển thị và độ trễ suy luận. Bài báo liên quan được ICML 2026 chấp nhận.

Thông tin chính

  • Nhóm Baihe của Baidu hợp tác với Đại học Phúc Đán đề xuất khung Long-horizon Utility KV (LU-KV),mô…
  • LU-KV ước lượng đường cong đóng góp biên của đầu chú ý qua hồ sơ ngoại tuyến,kết hợp nới lỏng bao…
  • Trên chuẩn LongBench và RULER,ở tỷ lệ nén 80% tổn thất hiệu năng nhỏ,giảm chiếm dụng bộ nhớ hiển…
  • Bài báo liên quan được ICML 2026 chấp nhận.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
公众号:百度智能云(文心)
Danh mục
Bài báo & nghiên cứu
Điểm AI
63
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

ICML接收的KV Cache压缩新方法,把缓存预算分配从看当前分数改成全局优化,能显著降低显存占用,做长上下文推理的值得细读。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Baidu Baihe hợp tác Đại học Phúc Đán đề xuất khung LU-KV, được ICML 2026 chấp nhận. 10 tháng 6 2026. https://new.nat6.net/vi/news/cmq7w1nzi028nslepn0azwdsg/

Xem tất cả →