Anthropic 构建 Automated Weak-to-Strong Researcher,AI 智能体在弱到强监督研究上超越人类基线
原文标题:Automated Weak-to-Strong Researcher
AI 摘要
Anthropic 团队构建了基于 Claude Opus 4.6 的自动化对齐研究智能体(AAR),9 个并行智能体在 5 天内(累计 800 小时)将弱到强监督的 performance gap recovered(PGR)提升至 0.97,而两位人类作者花 7 天调优四种先前方法的最好成绩仅 0.23,总成本约 18,000 美元。
关键信息
- Anthropic 团队构建了基于 Claude Opus 4.
- 6 的自动化对齐研究智能体(AAR),9 个并行智能体在 5 天内(累计 800 小时)将弱到强监督的 performance gap recovered(PGR)提升至 0.
- 97,而两位人类作者花 7 天调优四种先前方法的最好成绩仅 0.
- 23,总成本约 18,000 美元
- Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移
速览
- 发布时间
- 更新时间
- 分类
- 论文与研究
- AI 评分
- 65
推荐理由
Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Anthropic 构建 Automated Weak-to-Strong Researcher,AI 智能体在弱到强监督研究上超越人类基线。2026年4月14日。https://new.nat6.net/news/a7v4hrj53mokgs3hoi4x346la/