Mga Papel at Pananaliksik

Binuo ng Anthropic ang Automated Weak-to-Strong Researcher, nalampasan ng AI agent ang baseline ng tao sa pananaliksik sa weak-to-strong supervision

Orihinal na pamagat:Automated Weak-to-Strong Researcher

AI summary

Binuo ng koponan ng Anthropic ang isang automated alignment research agent (AAR) batay sa Claude Opus 4.6; 9 na parallel agent sa loob ng 5 araw (kabuuang 800 oras) ang nagtaas ng performance gap recovered (PGR) ng weak-to-strong supervision sa 0.97, habang ang pinakamahusay na resulta ng dalawang human author na gumugol ng 7 araw sa pag-tune ng apat na naunang pamamaraan ay 0.23 lamang, na may kabuuang gastos na humigit-kumulang 18,000 dolyar.

Mahahalagang impormasyon

  • Binuo ng koponan ng Anthropic ang isang automated alignment research agent (AAR) batay sa Claude…
  • 9 na parallel agent sa loob ng 5 araw (kabuuang 800 oras) ang nagtaas ng performance gap recovered…
  • 97,habang ang pinakamahusay na resulta ng dalawang human author na gumugol ng 7 araw sa pag-tune…
  • 23 lamang,na may kabuuang gastos na humigit-kumulang 18,000 dolyar.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Alignment Science Blog(网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
65
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Binuo ng Anthropic ang Automated Weak-to-Strong Researcher, nalampasan ng AI agent ang baseline ng tao sa pananaliksik sa weak-to-strong supervision. 14 Abril 2026. https://new.nat6.net/fil/news/a7v4hrj53mokgs3hoi4x346la/

Tingnan lahat →