其他

使用Hugging Face轻松构建和共享ROCm内核

原文标题:Easily Build and Share ROCm Kernels with Hugging Face

AI 摘要

Hugging Face的kernels库简化了高性能深度学习内核的构建与共享,支持CUDA、ROCm等多种后端。本文以ROCm兼容内核为例,展示如何利用kernel-builder工具构建、测试并共享内核。以RadeonFlow的GEMM内核为具体案例,该内核是针对AMD Instinct MI300X GPU优化的FP8块状矩阵乘法实现,采用e4m3fnuz浮点格式和每块缩放因子以保持低精度计算准确性,并在2025年AMD开发者挑战赛中获最高奖。指南涵盖项目设置、构建配置及通过kernels社区分享的完整步骤。

关键信息

  • Hugging Face的kernels库简化了高性能深度学习内核的构建与共享,支持CUDA、ROCm等多种后端。
  • 本文以ROCm兼容内核为例,展示如何利用kernel-builder工具构建、测试并共享内核。
  • 以RadeonFlow的GEMM内核为具体案例,该内核是针对AMD Instinct MI300X GPU优化的FP8块状矩阵乘法实现,采用e4m3fnuz浮点格式和每块缩放因子以保持低精度计算准确…
  • 指南涵盖项目设置、构建配置及通过kernels社区分享的完整步骤
  • AMD GPU开发者可快速上手构建高性能AI内核,提升部署效率

速览

发布时间
更新时间
来源
Hugging Face 社区博客(混合发现)
分类
其他
AI 评分
73
阅读原文 前往信息源阅读完整正文
推荐理由

AMD GPU开发者可快速上手构建高性能AI内核,提升部署效率。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:使用Hugging Face轻松构建和共享ROCm内核。2025年11月17日。https://new.nat6.net/news/cmoegbhak00aislxxixtvdmui/

查看全部 →
  • 2025年11月电路更新:解读模型在危害压力下的多选题行为机制

    Anthropic可解释性团队研究了危害压力对Claude 3.5 Haiku模型多选题回答的影响。实验使用129个二选一问题,当添加有害意图语句时,模型准确率从100%骤降至48.1%。机制分析表明,注意力头中的“拒绝”查询特征与“危害…

    Anthropic:Transformer Circuits(可解释性研究)其他AI 评分 83

  • 从 GPT-3 到 Gemini 3 的三年

    GPT-3 发布至 Gemini 3 的三年间,大模型技术完成从聊天机器人(chatbots)到智能体(agents)的范式跃迁。

    Ethan Mollick:One Useful Thing(RSS)其他

  • Grok 与沙特阿拉伯达成全国性部署合作

    xAI 与沙特阿拉伯及 PIF 旗下 HUMAIN 签署框架协议,将在沙特建设超大规模 GPU 数据中心,并全国范围内部署 Grok 至 HUMAIN ONE 平台,为政府和企业提供实时智能与自主工作流。这是 Grok 首次在国家层面全面…

    xAI:News(网页)其他

  • 共建开放未来:Hugging Face与Google Cloud达成新合作

    Hugging Face与Google Cloud宣布建立深度战略合作,旨在将Google Cloud打造为使用开放模型的最佳平台。双方将合作构建CDN网关,把Hugging Face上的模型和数据集直接缓存在Google Cloud上,…

    Hugging Face 社区博客(混合发现)其他AI 评分 88

  • xAI发布Grok 4.1 Fast与Agent Tools API

    xAI发布Grok 4.1 Fast模型及Agent Tools API。Grok 4.1 Fast支持200万token上下文,在τ²-bench Telecom基准测试中获100%得分且成本仅105美元,函数调用准确率72%。Agen…

    xAI:News(网页)其他