Sản phẩm & ứng dụng

Flash-KMeans: K-Means chính xác nhận biết IO, nhanh hơn FAISS hơn 200 lần trên GPU

Tiêu đề gốc:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs

Tóm tắt AI

Nhóm UC Berkeley và UT Austin đã mở mã nguồn Flash-KMeans (Apache 2.0, `pip install flash-kmeans`), triển khai chính xác K-Means chuẩn của Lloyd, tăng tốc bằng cách tái cấu trúc luồng dữ liệu GPU thay vì thay đổi toán học hoặc xấp xỉ. Trên NVIDIA H200, tốc độ end-to-end nhanh hơn 17,9× so với baseline tốt nhất, nhanh hơn 33× so với cuML, nhanh hơn hơn 200× so với FAISS. Nhân FlashAssign tránh vật chất hóa ma trận khoảng cách N×K đầy đủ, giảm độ phức tạp IO từ O(NK) xuống O(Nd+Kd), tăng tốc tối đa 21,2× trên một nhân; nhân Sort-Inverse Update giảm tranh chấp nguyên tử bằng cách sắp xếp ID cụm, tăng tốc tối đa 6,3× trên một nhân. Hỗ trợ xử lý out-of-core, với 1 tỷ điểm dữ liệu, K=32768, một lần lặp chỉ mất 41,4s. Phù hợp cho chỉ mục tìm kiếm vector, định tuyến chú ý thưa, nén bộ nhớ đệm KV và các kịch bản trực tuyến khác.

Thông tin chính

  • Nhóm UC Berkeley và UT Austin đã mở mã nguồn Flash-KMeans (Apache 2.
  • 0,`pip install flash-kmeans`),triển khai chính xác K-Means chuẩn của Lloyd,tăng tốc bằng cách tái…
  • Trên NVIDIA H200,tốc độ end-to-end nhanh hơn 17,9× so với baseline tốt nhất,nhanh hơn 33× so với…
  • Nhân FlashAssign tránh vật chất hóa ma trận khoảng cách N×K đầy đủ,giảm độ phức tạp IO từ O(NK)…
  • nhân Sort-Inverse Update giảm tranh chấp nguyên tử bằng cách sắp xếp ID cụm,tăng tốc tối đa 6,3×…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
MarkTechPost(RSS)
Danh mục
Sản phẩm & ứng dụng
Điểm AI
73
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Flash-KMeans: K-Means chính xác nhận biết IO, nhanh hơn FAISS hơn 200 lần trên GPU. 15 tháng 6 2026. https://new.nat6.net/vi/news/cmqf0xl1601t7slwaf7eww3hm/

Xem tất cả →