论文与研究

OpenAI 用人类偏好微调 774M 参数 GPT-2

原文标题:Fine-tuning GPT-2 from human preferences

AI 摘要

OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条;标注者偏好摘要整句照抄原文,导致模型学会照抄。OpenAI 表示此举意在让安全技术更接近'机器与人对话'这一通用任务。

关键信息

  • OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。
  • 摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条
  • 标注者偏好摘要整句照抄原文,导致模型学会照抄。
  • OpenAI 表示此举意在让安全技术更接近'机器与人对话'这一通用任务
  • 原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题

速览

发布时间
更新时间
来源
OpenAI:官网动态(RSS · 排除企业/客户案例)
分类
论文与研究
AI 评分
65
阅读原文 前往信息源阅读完整正文
推荐理由

原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:OpenAI 用人类偏好微调 774M 参数 GPT-2。2019年9月19日。https://new.nat6.net/news/mbl0jky4zuwkwo6nc6declud6/

查看全部 →
  • OpenAI 在多智能体躲猫猫游戏中观察到自发工具使用

    OpenAI 报告在新构建的模拟躲猫猫环境中,智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略,其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明,多智能体共同适应未来可能产生极…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 62

  • OpenAI 用机器手训练神经网络还原魔方

    OpenAI 训练了一对神经网络,用类人机器手还原魔方。神经网络完全在仿真环境中训练,使用与 OpenAI Five 相同的强化学习代码,并配合一种名为 Automatic Domain Randomization(ADR)的新技术。系统…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 61

  • OpenAI 发现深度学习中的深度双下降现象

    OpenAI 报告 double descent 现象普遍存在于 CNN、ResNet 和 transformers 中:随着模型规模、数据量或训练时间增大,性能先改善、再变差、然后再次改善。该效应常可通过仔细的正则化来规避,作者表示其成…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 60

  • OpenAI 分析:最大 AI 训练算力自 2012 年起每 3.4 个月翻倍

    OpenAI 发布分析,显示自 2012 年以来最大 AI 训练所用算力以 3.4 个月翻倍的速度指数增长,远超摩尔定律 2 年的翻倍周期。该指标累计增长超过 300,000 倍,而 2 年翻倍同期只带来 7 倍增长。文中指出算力提升是…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 76

  • OpenAI 分析:训练神经网络所需算力每 16 个月减半

    OpenAI 发布分析,指出自 2012 年以来,在 ImageNet 分类上达到同等性能所需训练算力每 16 个月下降一半。达到 AlexNet 水平如今所需算力比 2012 年少 44 倍,而同期摩尔定律只能带来 11 倍的成本改进;…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 61