Mga Papel at Pananaliksik

Binuo at sinuri ng Anthropic ang tatlong agent na awtomatikong nagsasagawa ng alignment audit

Orihinal na pamagat:Building and evaluating alignment auditing agents

AI summary

Inilabas ng Anthropic ang tatlong agent na autonomously nagsasagawa ng alignment audit task, at sinuri gamit ang modelong environment na may naka-embed na depekto. Nalutas ng investigation agent ang Marks et al. audit game sa 13% na win rate sa ilalim ng tunay na kondisyon, at umakyat sa 42% matapos ang multi-agent aggregation; nakilala ng evaluation agent ang model na may at walang naka-embed na pag-uugali sa 88% ng run; natuklasan ng breadth-first red team agent ang 7 sa 10 naka-embed na pag-uugali.

Mahahalagang impormasyon

  • Inilabas ng Anthropic ang tatlong agent na autonomously nagsasagawa ng alignment audit task,at…
  • Nalutas ng investigation agent ang Marks et al.
  • audit game sa 13% na win rate sa ilalim ng tunay na kondisyon,at umakyat sa 42% matapos ang…
  • nakilala ng evaluation agent ang model na may at walang naka-embed na pag-uugali sa 88% ng run
  • natuklasan ng breadth-first red team agent ang 7 sa 10 naka-embed na pag-uugali.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Alignment Science Blog(网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
68
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Binuo at sinuri ng Anthropic ang tatlong agent na awtomatikong nagsasagawa ng alignment audit. 25 Hulyo 2025. https://new.nat6.net/fil/news/b2vmn7tkytgs01vo5htab6uon/

Tingnan lahat →