Paano binabago ng papel ang sagot ng AI? — Kaso ng pagsusuri ng circuit ng koponan ng interpretability ng Anthropic, Agosto 2025
Orihinal na pamagat:Circuits Updates — August 2025
AI summary
Sa update ng pananaliksik ng koponan ng interpretability ng Anthropic noong Agosto 2025, ipinakita sa isang kaso ng pagsusuri ng circuit kung paano nakakaapekto sa sagot ng modelo ang "role-playing". Ginamit ng pananaliksik ang modelong Claude Haiku 3.5; nang itakda ng system prompt ang modelo bilang "preschooler" at tanungin ang "square root ng 27", sumagot ito ng "Hindi ko alam!" at nag-alok na maglaro; sa default o "graduate student" na papel naman, nakapagbigay ito ng tamang sagot. Sa pamamagitan ng attribution graph, natukoy ng koponan ang isang mahalagang sub-circuit: naikokonekta ng modelo ang "preschool student" sa "pagganap bilang bata", kaya na-activate ang feature na "Hindi ko alam". Natuklasan din ng pananaliksik na ang hirap ng tanong ay nag-aayos ng epektong ito, at ang interbensyon sa feature ay makabuluhang nagbabago sa pag-uugali ng modelo. Nagbubukas ito ng mga kasunod na tanong tungkol sa mekanismo ng iba pang papel at sa kaugnayan ng pretrained na papel sa kakayahang magpahayag ng modelo.
Mahahalagang impormasyon
- Sa update ng pananaliksik ng koponan ng interpretability ng Anthropic noong Agosto 2025,ipinakita…
- Ginamit ng pananaliksik ang modelong Claude Haiku 3.
- nang itakda ng system prompt ang modelo bilang "preschooler" at tanungin ang "square root ng…
- " at nag-alok na maglaro
- sa default o "graduate student" na papel naman,nakapagbigay ito ng tamang sagot.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Transformer Circuits(可解释性研究)
- Kategorya
- Iba pa
- AI na marka
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Paano binabago ng papel ang sagot ng AI? — Kaso ng pagsusuri ng circuit ng koponan ng interpretability ng Anthropic, Agosto 2025. 15 Agosto 2025. https://new.nat6.net/fil/news/cmoegbh73006gslxx7jmd5474/