论文与研究

OpenAI 联合多机构发布预测 AI 恶意用途的论文

原文标题:Preparing for malicious uses of AI

AI 摘要

OpenAI 联合 Future of Humanity Institute、Centre for the Study of Existential Risk。

关键信息

  • OpenAI 联合 Future of Humanity Institute
  • Centre for the Study of Existential Risk
  • OpenAI 与多家机构联合发布预测 AI 恶意用途的论文,为理解 AI 安全威胁和防范思路提供了系统性参考

速览

发布时间
更新时间
来源
OpenAI:官网动态(RSS · 排除企业/客户案例)
分类
论文与研究
AI 评分
69
阅读原文 前往信息源阅读完整正文
推荐理由

OpenAI 与多家机构联合发布预测 AI 恶意用途的论文,为理解 AI 安全威胁和防范思路提供了系统性参考。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:OpenAI 联合多机构发布预测 AI 恶意用途的论文。2018年2月20日。https://new.nat6.net/news/vgfv84xd5mqtsn4d63c145n6d/

查看全部 →
  • OpenAI 与 DeepMind 合作研究从人类偏好中学习

    OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类判断两个候选行为中哪个更好来推断人类想要什么。该工作旨在免去人工编写目标函数,避免为复杂目标使用简单代理或目标偏差导致不良甚至危险行为,是构建安全 AI 系统的一步。

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 70

  • OpenAI 分析:最大 AI 训练算力自 2012 年起每 3.4 个月翻倍

    OpenAI 发布分析,显示自 2012 年以来最大 AI 训练所用算力以 3.4 个月翻倍的速度指数增长,远超摩尔定律 2 年的翻倍周期。该指标累计增长超过 300,000 倍,而 2 年翻倍同期只带来 7 倍增长。文中指出算力提升是…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 76

  • OpenAI 在多智能体躲猫猫游戏中观察到自发工具使用

    OpenAI 报告在新构建的模拟躲猫猫环境中,智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略,其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明,多智能体共同适应未来可能产生极…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 62

  • OpenAI 用人类偏好微调 774M 参数 GPT-2

    OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条;标注者偏好摘要整句照抄原文,导致模型学会照抄。OpenAI 表示此举意在让安…

    OpenAI:官网动态(RSS · 排除企业/客户案例)论文与研究AI 评分 65