Mga Papel at Pananaliksik

Automated alignment researcher: paggamit ng large language models upang palawakin ang scalable supervision

Orihinal na pamagat:Automated Alignment Researchers: Using large language models to scale scalable oversight

AI summary

Nag-deploy ang Anthropic ng 9 na Claude Opus 4.6 bilang automated alignment researchers (AARs), na autonomous na nag-research ng 800 oras sa ilalim ng weak-to-strong supervision framework. Sa pamamagitan ng autonomous na pag-propose, pag-test at pag-optimize ng alignment solutions, itinaas ng AARs ang performance gap recovery rate (PGR) mula 0.23 hanggang 0.97, na may gastos na humigit-kumulang 18,000 USD. Ipinapakita ng pag-aaral na ito na kayang magsagawa ng alignment research nang independent ang kasalukuyang large models, na nagbibigay ng feasible path para sa scalable supervision ng superhuman AI.

Mahahalagang impormasyon

  • Nag-deploy ang Anthropic ng 9 na Claude Opus 4.
  • 6 bilang automated alignment researchers (AARs),na autonomous na nag-research ng 800 oras sa…
  • Sa pamamagitan ng autonomous na pag-propose,pag-test at pag-optimize ng alignment…
  • 23 hanggang 0.
  • 97,na may gastos na humigit-kumulang 18,000 USD.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Research(发表成果 · 网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
74
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Automated alignment researcher: paggamit ng large language models upang palawakin ang scalable supervision. 14 Abril 2026. https://new.nat6.net/fil/news/cmnyzulbd01gcsl0fgdwxquf2/

Tingnan lahat →