ผลิตภัณฑ์และแอป

Flash-KMeans: K-Means แม่นยำแบบ IO-aware เร็วกว่า FAISS บน GPU 200 เท่าขึ้นไป

หัวข้อต้นฉบับ:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs

สรุปโดย AI

ทีม UC Berkeley และ UT Austin เปิดโอเพนซอร์ส Flash-KMeans (Apache 2.0, `pip install flash-kmeans`) ซึ่งใช้ Lloyd's k-Means มาตรฐานอย่างแม่นยำ โดยเร่งความเร็วด้วยการปรับโครงสร้างกระแสข้อมูลบน GPU ไม่ใช่การเปลี่ยนคณิตศาสตร์หรือการประมาณ บน NVIDIA H200 เร็วกว่าฐานที่ดีที่สุด 17.9 เท่าแบบ end-to-end เร็วกว่า cuML 33 เท่า และเร็วกว่า FAISS 200 เท่าขึ้นไป เคอร์เนล FlashAssign หลีกเลี่ยงการสร้างเมทริกซ์ระยะทาง N×K เต็มรูปแบบ ลดความซับซ้อน IO จาก O(NK) เหลือ O(Nd+Kd) เร่งความเร็วได้สูงสุด 21.2 เท่าต่อเคอร์เนล ส่วน Sort-Inverse Update เร่งความเร็วได้สูงสุด 6.3 เท่าต่อเคอร์เนลด้วยการลดการแย่งชิงอะตอมมิกจากการเรียงลำดับ ID คลัสเตอร์ รองรับการประมวลผลแบบ out-of-core โดยที่ 1 พันล้านจุดข้อมูล K=32768 ใช้เวลาเพียง 41.4 วินาทีต่อการวนซ้ำหนึ่งครั้ง เหมาะกับสถานการณ์ออนไลน์ เช่น ดัชนีค้นหาเวกเตอร์ การกำหนดเส้นทางความสนใจแบบเบาบาง และการบีบอัด KV cache

ข้อมูลสำคัญ

  • ทีม UC Berkeley และ UT Austin เปิดโอเพนซอร์ส Flash-KMeans (Apache 2.
  • 0,`pip install flash-kmeans`) ซึ่งใช้ Lloyd's k-Means มาตรฐานอย่างแม่นยำ…
  • 9 เท่าแบบ end-to-end เร็วกว่า cuML 33 เท่า และเร็วกว่า FAISS 200 เท่าขึ้นไป เคอร์เนล FlashAssign…
  • 2 เท่าต่อเคอร์เนล ส่วน Sort-Inverse Update เร่งความเร็วได้สูงสุด 6.
  • 3 เท่าต่อเคอร์เนลด้วยการลดการแย่งชิงอะตอมมิกจากการเรียงลำดับ ID คลัสเตอร์ รองรับการประมวลผลแบบ…

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
MarkTechPost(RSS)
หมวดหมู่
ผลิตภัณฑ์และแอป
คะแนน AI
73
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Flash-KMeans: K-Means แม่นยำแบบ IO-aware เร็วกว่า FAISS บน GPU 200 เท่าขึ้นไป 15 มิถุนายน 2026 https://new.nat6.net/th/news/cmqf0xl1601t7slwaf7eww3hm/

ดูทั้งหมด →