Iba pa

Paano binabago ng papel ang sagot ng AI? — Kaso ng pagsusuri ng circuit ng koponan ng interpretability ng Anthropic, Agosto 2025

Orihinal na pamagat:Circuits Updates — August 2025

AI summary

Sa update ng pananaliksik ng koponan ng interpretability ng Anthropic noong Agosto 2025, ipinakita sa isang kaso ng pagsusuri ng circuit kung paano nakakaapekto sa sagot ng modelo ang "role-playing". Ginamit ng pananaliksik ang modelong Claude Haiku 3.5; nang itakda ng system prompt ang modelo bilang "preschooler" at tanungin ang "square root ng 27", sumagot ito ng "Hindi ko alam!" at nag-alok na maglaro; sa default o "graduate student" na papel naman, nakapagbigay ito ng tamang sagot. Sa pamamagitan ng attribution graph, natukoy ng koponan ang isang mahalagang sub-circuit: naikokonekta ng modelo ang "preschool student" sa "pagganap bilang bata", kaya na-activate ang feature na "Hindi ko alam". Natuklasan din ng pananaliksik na ang hirap ng tanong ay nag-aayos ng epektong ito, at ang interbensyon sa feature ay makabuluhang nagbabago sa pag-uugali ng modelo. Nagbubukas ito ng mga kasunod na tanong tungkol sa mekanismo ng iba pang papel at sa kaugnayan ng pretrained na papel sa kakayahang magpahayag ng modelo.

Mahahalagang impormasyon

  • Sa update ng pananaliksik ng koponan ng interpretability ng Anthropic noong Agosto 2025,ipinakita…
  • Ginamit ng pananaliksik ang modelong Claude Haiku 3.
  • nang itakda ng system prompt ang modelo bilang "preschooler" at tanungin ang "square root ng…
  • " at nag-alok na maglaro
  • sa default o "graduate student" na papel naman,nakapagbigay ito ng tamang sagot.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Transformer Circuits(可解释性研究)
Kategorya
Iba pa
AI na marka
73
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Paano binabago ng papel ang sagot ng AI? — Kaso ng pagsusuri ng circuit ng koponan ng interpretability ng Anthropic, Agosto 2025. 15 Agosto 2025. https://new.nat6.net/fil/news/cmoegbh73006gslxx7jmd5474/

Tingnan lahat →