Flash-KMeans: K-Means eksak yang sadar IO, lebih dari 200x lebih cepat dari FAISS di GPU
Judul asli:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs
Ringkasan AI
Tim UC Berkeley dan UT Austin merilis Flash-KMeans sebagai sumber terbuka (Apache 2.0, `pip install flash-kmeans`), implementasi eksak k-Means Lloyd standar yang mempercepat melalui perombakan aliran data GPU tanpa mengubah matematika atau melakukan aproksimasi. Pada NVIDIA H200, kecepatan end-to-end 17,9x lebih cepat dari baseline terbaik, 33x lebih cepat dari cuML, dan lebih dari 200x lebih cepat dari FAISS. Kernel FlashAssign menghindari materialisasi matriks jarak N×K penuh, menurunkan kompleksitas IO dari O(NK) menjadi O(Nd+Kd), dengan percepatan per kernel hingga 21,2x; kernel Sort-Inverse Update mengurangi kontensi atomik melalui pengurutan ID klaster, dengan percepatan per kernel hingga 6,3x. Mendukung pemrosesan out-of-core, dengan satu iterasi hanya 41,4 detik pada 1 miliar titik data dan K=32768. Cocok untuk skenario online seperti indeks pencarian vektor, perutean attention sparse, dan kompresi cache KV.
Poin utama
- Tim UC Berkeley dan UT Austin merilis Flash-KMeans sebagai sumber terbuka (Apache 2.
- 0,`pip install flash-kmeans`),implementasi eksak k-Means Lloyd standar yang mempercepat melalui…
- Pada NVIDIA H200,kecepatan end-to-end 17,9x lebih cepat dari baseline terbaik,33x lebih cepat dari…
- Kernel FlashAssign menghindari materialisasi matriks jarak N×K penuh,menurunkan kompleksitas IO…
- kernel Sort-Inverse Update mengurangi kontensi atomik melalui pengurutan ID klaster,dengan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- MarkTechPost(RSS)
- Kategori
- Produk & Aplikasi
- Skor AI
- 73
Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Flash-KMeans: K-Means eksak yang sadar IO, lebih dari 200x lebih cepat dari FAISS di GPU. 15 Juni 2026. https://new.nat6.net/id/news/cmqf0xl1601t7slwaf7eww3hm/