论文与研究

Anthropic 构建 Automated Weak-to-Strong Researcher,AI 智能体在弱到强监督研究上超越人类基线

原文标题:Automated Weak-to-Strong Researcher

AI 摘要

Anthropic 团队构建了基于 Claude Opus 4.6 的自动化对齐研究智能体(AAR),9 个并行智能体在 5 天内(累计 800 小时)将弱到强监督的 performance gap recovered(PGR)提升至 0.97,而两位人类作者花 7 天调优四种先前方法的最好成绩仅 0.23,总成本约 18,000 美元。

关键信息

  • Anthropic 团队构建了基于 Claude Opus 4.
  • 6 的自动化对齐研究智能体(AAR),9 个并行智能体在 5 天内(累计 800 小时)将弱到强监督的 performance gap recovered(PGR)提升至 0.
  • 97,而两位人类作者花 7 天调优四种先前方法的最好成绩仅 0.
  • 23,总成本约 18,000 美元
  • Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移

速览

发布时间
更新时间
来源
Anthropic:Alignment Science Blog(网页)
分类
论文与研究
AI 评分
65
阅读原文 前往信息源阅读完整正文
推荐理由

Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Anthropic 构建 Automated Weak-to-Strong Researcher,AI 智能体在弱到强监督研究上超越人类基线。2026年4月14日。https://new.nat6.net/news/a7v4hrj53mokgs3hoi4x346la/

查看全部 →