论文与研究

OpenAI 分析:训练神经网络所需算力每 16 个月减半

原文标题:AI and efficiency

AI 摘要

OpenAI 发布分析,指出自 2012 年以来,在 ImageNet 分类上达到同等性能所需训练算力每 16 个月下降一半。达到 AlexNet 水平如今所需算力比 2012 年少 44 倍,而同期摩尔定律只能带来 11 倍的成本改进;结果表明在近期投入较高的 AI 任务上,算法进步带来的收益超过传统硬件效率提升。

关键信息

  • OpenAI 发布分析,指出自 2012 年以来,在 ImageNet 分类上达到同等性能所需训练算力每 16 个月下降一半。
  • 达到 AlexNet 水平如今所需算力比 2012 年少 44 倍,而同期摩尔定律只能带来 11 倍的成本改进
  • 结果表明在近期投入较高的 AI 任务上,算法进步带来的收益超过传统硬件效率提升
  • OpenAI 用 ImageNet 分类数据量化算法进步的速度,读者可据此比较算法效率与摩尔定律的贡献差异

速览

发布时间
更新时间
来源
OpenAI:官网动态(RSS · 排除企业/客户案例)
分类
论文与研究
AI 评分
61
阅读原文 前往信息源阅读完整正文
推荐理由

OpenAI 用 ImageNet 分类数据量化算法进步的速度,读者可据此比较算法效率与摩尔定律的贡献差异。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:OpenAI 分析:训练神经网络所需算力每 16 个月减半。2020年5月5日。https://new.nat6.net/news/ctf4kaxoy1572sg8vh5ve9og6/

查看全部 →
  • OpenAI 发现深度学习中的深度双下降现象

    OpenAI 报告 double descent 现象普遍存在于 CNN、ResNet 和 transformers 中:随着模型规模、数据量或训练时间增大,性能先改善、再变差、然后再次改善。该效应常可通过仔细的正则化来规避,作者表示其成…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 60

  • OpenAI 用机器手训练神经网络还原魔方

    OpenAI 训练了一对神经网络,用类人机器手还原魔方。神经网络完全在仿真环境中训练,使用与 OpenAI Five 相同的强化学习代码,并配合一种名为 Automatic Domain Randomization(ADR)的新技术。系统…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 61

  • OpenAI 用人类偏好微调 774M 参数 GPT-2

    OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条;标注者偏好摘要整句照抄原文,导致模型学会照抄。OpenAI 表示此举意在让安…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 65