Produk & Aplikasi

Flash-KMeans: K-Means tepat sedar-IO, lebih 200 kali lebih pantas daripada FAISS pada GPU

Tajuk asal:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs

Ringkasan AI

Pasukan UC Berkeley dan UT Austin menyumber terbuka Flash-KMeans (Apache 2.0, `pip install flash-kmeans`), melaksanakan K-Means Lloyd standard secara tepat, mempercepatkan melalui pembinaan semula aliran data GPU dan bukan dengan mengubah matematik atau penghampiran. Pada NVIDIA H200, kelajuan hujung ke hujung 17.9× lebih pantas daripada garis dasar terbaik, 33× lebih pantas daripada cuML, dan lebih 200× lebih pantas daripada FAISS. Kernel FlashAssign mengelakkan pembentukan matriks jarak penuh N×K, mengurangkan kerumitan IO daripada O(NK) kepada O(Nd+Kd), dengan pecutan sehingga 21.2× bagi satu teras; kernel Sort-Inverse Update mengurangkan pertikaian atom melalui pengisihan ID kelompok, dengan pecutan sehingga 6.3× bagi satu teras. Menyokong pemprosesan out-of-core, dengan satu lelaran hanya 41.4s pada 1B titik data dan K=32768. Sesuai untuk indeks carian vektor, penghalaan perhatian jarang, pemampatan cache KV dan senario dalam talian lain.

Maklumat penting

  • Pasukan UC Berkeley dan UT Austin menyumber terbuka Flash-KMeans (Apache 2.
  • 0,`pip install flash-kmeans`),melaksanakan K-Means Lloyd standard secara tepat,mempercepatkan…
  • Pada NVIDIA H200,kelajuan hujung ke hujung 17.
  • 9× lebih pantas daripada garis dasar terbaik,33× lebih pantas daripada cuML,dan lebih 200× lebih…
  • Kernel FlashAssign mengelakkan pembentukan matriks jarak penuh N×K,mengurangkan kerumitan IO…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
MarkTechPost(RSS)
Kategori
Produk & Aplikasi
Skor AI
73
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Flash-KMeans: K-Means tepat sedar-IO, lebih 200 kali lebih pantas daripada FAISS pada GPU. 15 Jun 2026. https://new.nat6.net/ms/news/cmqf0xl1601t7slwaf7eww3hm/

Lihat Semua →