Automated alignment researcher: paggamit ng large language models upang palawakin ang scalable supervision
Orihinal na pamagat:Automated Alignment Researchers: Using large language models to scale scalable oversight
AI summary
Nag-deploy ang Anthropic ng 9 na Claude Opus 4.6 bilang automated alignment researchers (AARs), na autonomous na nag-research ng 800 oras sa ilalim ng weak-to-strong supervision framework. Sa pamamagitan ng autonomous na pag-propose, pag-test at pag-optimize ng alignment solutions, itinaas ng AARs ang performance gap recovery rate (PGR) mula 0.23 hanggang 0.97, na may gastos na humigit-kumulang 18,000 USD. Ipinapakita ng pag-aaral na ito na kayang magsagawa ng alignment research nang independent ang kasalukuyang large models, na nagbibigay ng feasible path para sa scalable supervision ng superhuman AI.
Mahahalagang impormasyon
- Nag-deploy ang Anthropic ng 9 na Claude Opus 4.
- 6 bilang automated alignment researchers (AARs),na autonomous na nag-research ng 800 oras sa…
- Sa pamamagitan ng autonomous na pag-propose,pag-test at pag-optimize ng alignment…
- 23 hanggang 0.
- 97,na may gastos na humigit-kumulang 18,000 USD.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Research(发表成果 · 网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 74
Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Automated alignment researcher: paggamit ng large language models upang palawakin ang scalable supervision. 14 Abril 2026. https://new.nat6.net/fil/news/cmnyzulbd01gcsl0fgdwxquf2/