Binuo at sinuri ng Anthropic ang tatlong agent na awtomatikong nagsasagawa ng alignment audit
Orihinal na pamagat:Building and evaluating alignment auditing agents
AI summary
Inilabas ng Anthropic ang tatlong agent na autonomously nagsasagawa ng alignment audit task, at sinuri gamit ang modelong environment na may naka-embed na depekto. Nalutas ng investigation agent ang Marks et al. audit game sa 13% na win rate sa ilalim ng tunay na kondisyon, at umakyat sa 42% matapos ang multi-agent aggregation; nakilala ng evaluation agent ang model na may at walang naka-embed na pag-uugali sa 88% ng run; natuklasan ng breadth-first red team agent ang 7 sa 10 naka-embed na pag-uugali.
Mahahalagang impormasyon
- Inilabas ng Anthropic ang tatlong agent na autonomously nagsasagawa ng alignment audit task,at…
- Nalutas ng investigation agent ang Marks et al.
- audit game sa 13% na win rate sa ilalim ng tunay na kondisyon,at umakyat sa 42% matapos ang…
- nakilala ng evaluation agent ang model na may at walang naka-embed na pag-uugali sa 88% ng run
- natuklasan ng breadth-first red team agent ang 7 sa 10 naka-embed na pag-uugali.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Alignment Science Blog(网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 68
Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Binuo at sinuri ng Anthropic ang tatlong agent na awtomatikong nagsasagawa ng alignment audit. 25 Hulyo 2025. https://new.nat6.net/fil/news/b2vmn7tkytgs01vo5htab6uon/