Produk & Aplikasi

Flash-KMeans: K-Means eksak yang sadar IO, lebih dari 200x lebih cepat dari FAISS di GPU

Judul asli:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs

Ringkasan AI

Tim UC Berkeley dan UT Austin merilis Flash-KMeans sebagai sumber terbuka (Apache 2.0, `pip install flash-kmeans`), implementasi eksak k-Means Lloyd standar yang mempercepat melalui perombakan aliran data GPU tanpa mengubah matematika atau melakukan aproksimasi. Pada NVIDIA H200, kecepatan end-to-end 17,9x lebih cepat dari baseline terbaik, 33x lebih cepat dari cuML, dan lebih dari 200x lebih cepat dari FAISS. Kernel FlashAssign menghindari materialisasi matriks jarak N×K penuh, menurunkan kompleksitas IO dari O(NK) menjadi O(Nd+Kd), dengan percepatan per kernel hingga 21,2x; kernel Sort-Inverse Update mengurangi kontensi atomik melalui pengurutan ID klaster, dengan percepatan per kernel hingga 6,3x. Mendukung pemrosesan out-of-core, dengan satu iterasi hanya 41,4 detik pada 1 miliar titik data dan K=32768. Cocok untuk skenario online seperti indeks pencarian vektor, perutean attention sparse, dan kompresi cache KV.

Poin utama

  • Tim UC Berkeley dan UT Austin merilis Flash-KMeans sebagai sumber terbuka (Apache 2.
  • 0,`pip install flash-kmeans`),implementasi eksak k-Means Lloyd standar yang mempercepat melalui…
  • Pada NVIDIA H200,kecepatan end-to-end 17,9x lebih cepat dari baseline terbaik,33x lebih cepat dari…
  • Kernel FlashAssign menghindari materialisasi matriks jarak N×K penuh,menurunkan kompleksitas IO…
  • kernel Sort-Inverse Update mengurangi kontensi atomik melalui pengurutan ID klaster,dengan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
MarkTechPost(RSS)
Kategori
Produk & Aplikasi
Skor AI
73
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Flash-KMeans: K-Means eksak yang sadar IO, lebih dari 200x lebih cepat dari FAISS di GPU. 15 Juni 2026. https://new.nat6.net/id/news/cmqf0xl1601t7slwaf7eww3hm/

Lihat semua →