Flash-KMeans: K-Means tepat sedar-IO, lebih 200 kali lebih pantas daripada FAISS pada GPU
Tajuk asal:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs
Ringkasan AI
Pasukan UC Berkeley dan UT Austin menyumber terbuka Flash-KMeans (Apache 2.0, `pip install flash-kmeans`), melaksanakan K-Means Lloyd standard secara tepat, mempercepatkan melalui pembinaan semula aliran data GPU dan bukan dengan mengubah matematik atau penghampiran. Pada NVIDIA H200, kelajuan hujung ke hujung 17.9× lebih pantas daripada garis dasar terbaik, 33× lebih pantas daripada cuML, dan lebih 200× lebih pantas daripada FAISS. Kernel FlashAssign mengelakkan pembentukan matriks jarak penuh N×K, mengurangkan kerumitan IO daripada O(NK) kepada O(Nd+Kd), dengan pecutan sehingga 21.2× bagi satu teras; kernel Sort-Inverse Update mengurangkan pertikaian atom melalui pengisihan ID kelompok, dengan pecutan sehingga 6.3× bagi satu teras. Menyokong pemprosesan out-of-core, dengan satu lelaran hanya 41.4s pada 1B titik data dan K=32768. Sesuai untuk indeks carian vektor, penghalaan perhatian jarang, pemampatan cache KV dan senario dalam talian lain.
Maklumat penting
- Pasukan UC Berkeley dan UT Austin menyumber terbuka Flash-KMeans (Apache 2.
- 0,`pip install flash-kmeans`),melaksanakan K-Means Lloyd standard secara tepat,mempercepatkan…
- Pada NVIDIA H200,kelajuan hujung ke hujung 17.
- 9× lebih pantas daripada garis dasar terbaik,33× lebih pantas daripada cuML,dan lebih 200× lebih…
- Kernel FlashAssign mengelakkan pembentukan matriks jarak penuh N×K,mengurangkan kerumitan IO…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- MarkTechPost(RSS)
- Kategori
- Produk & Aplikasi
- Skor AI
- 73
Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Flash-KMeans: K-Means tepat sedar-IO, lebih 200 kali lebih pantas daripada FAISS pada GPU. 15 Jun 2026. https://new.nat6.net/ms/news/cmqf0xl1601t7slwaf7eww3hm/