自动化对齐研究者:利用大语言模型扩展可扩展监督
原文标题:Automated Alignment Researchers: Using large language models to scale scalable oversight
AI 摘要
Anthropic部署9个Claude Opus 4.6作为自动化对齐研究者(AARs),在弱到强监督框架下自主研究800小时。通过自主提出、测试并优化对齐方案,AARs将性能差距恢复率(PGR)从0.23提升至0.97,成本约1.8万美元。该研究表明当前大模型已能独立开展对齐研究,为解决超人类AI的可扩展监督问题提供了可行路径。
关键信息
- Anthropic部署9个Claude Opus 4.
- 6作为自动化对齐研究者(AARs),在弱到强监督框架下自主研究800小时。
- 通过自主提出、测试并优化对齐方案,AARs将性能差距恢复率(PGR)从0.
- 23提升至0.
- 97,成本约1.
速览
- 发布时间
- 更新时间
- 分类
- 论文与研究
- AI 评分
- 74
推荐理由
Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:自动化对齐研究者:利用大语言模型扩展可扩展监督。2026年4月14日。https://new.nat6.net/news/cmnyzulbd01gcsl0fgdwxquf2/