产品与应用

Flash-KMeans:IO感知的精确K-Means,在GPU上比FAISS快200倍以上

原文标题:Meet Flash-KMeans: An IO-Aware, Exact K-Means That Runs Over 200× Faster Than FAISS on GPUs

AI 摘要

UC Berkeley与UT Austin团队开源Flash-KMeans(Apache 2.0,`pip install flash-kmeans`),精确实现标准Lloyd's k-Means,通过重构GPU数据流而非改变数学或近似来提速。在NVIDIA H200上,端到端速度比最佳基线快17.9×,比cuML快33×,比FAISS快200×以上。其FlashAssign核避免物化完整N×K距离矩阵,将IO复杂度从O(NK)降至O(Nd+Kd),单核加速最高21.2×;Sort-Inverse Update核通过排序聚类ID减少原子争用,单核加速最高6.3×。支持out-of-core处理,在1B数据点、K=32768时单次迭代仅41.4s。适用于向量搜索索引、稀疏注意力路由、KV缓存压缩等在线场景。

关键信息

  • UC Berkeley与UT Austin团队开源Flash-KMeans(Apache 2.
  • 0,`pip install flash-kmeans`),精确实现标准Lloyd's k-Means,通过重构GPU数据流而非改变数学或近似来提速。
  • 在NVIDIA H200上,端到端速度比最佳基线快17.
  • 9×,比cuML快33×,比FAISS快200×以上。
  • 其FlashAssign核避免物化完整N×K距离矩阵,将IO复杂度从O(NK)降至O(Nd+Kd),单核加速最高21.

速览

发布时间
更新时间
来源
MarkTechPost(RSS)
分类
产品与应用
AI 评分
73
阅读原文 前往信息源阅读完整正文
推荐理由

Flash-KMeans 把 k-means 从离线预处理拉进了在线循环,200 倍加速不是纸面数字,而是让向量索引重建、稀疏注意力路由这些场景突然可行了。做大规模聚类的可以立刻换掉 FAISS。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Flash-KMeans:IO感知的精确K-Means,在GPU上比FAISS快200倍以上。2026年6月15日。https://new.nat6.net/news/cmqf0xl1601t7slwaf7eww3hm/

查看全部 →
  • Grok Build 推出 Agent Dashboard 管理多个编码会话

    xAI 为 Grok Build 推出 Agent Dashboard,提供单一屏幕管理多个编码会话。仪表板按状态分组(等待输入、工作中、空闲),每行显示状态标记、名称、分支、权限模式和当前操作。选中会话可打开 peek 面板查看最新输出…

    xAI:News(网页)产品与应用AI 评分 73

  • 6倍速!Kimi K2.7 Code 高速版已上线

    Kimi K2.7 Code 高速版上线,与普通版为同一模型,输出速度约 5-6 倍,常规编程场景约 180 Token/s,短上下文可达 260 Token/s。API 定价为普通版 2 倍,模型 ID:kimi-k2.7-code-h…

    公众号:月之暗面(Kimi)产品与应用AI 评分 69

  • Suno 音轨分离:从零生成更纯净

    重大更新:Suno 的音轨分离刚刚大幅升级。🚀 我们现在从零重新生成音轨,而非仅仅隔离频率。结果如何?纯净无伪影的音轨,可直接拖入你的 DAW。

    X:Suno (@suno)产品与应用AI 评分 70

  • SageCTF:最强大CTF挑战AI智能体

    UC Santa Barbara与UC Berkeley团队基于OpenSage框架构建了CTF专用智能体SageCTF。在DEF CON CTF 2026资格赛中,SageCTF以单人玩家身份尝试15道挑战,成功攻克7道、恢复8个fla…

    Berkeley RDI:Blog(AI 安全与评测)产品与应用AI 评分 68