Bagaimana peranan mengubah jawapan AI? — Kajian analisis litar pasukan interpretasi Anthropic, Ogos 2025
Tajuk asal:Circuits Updates — August 2025
Ringkasan AI
Dalam kemas kini penyelidikan Ogos 2025, pasukan interpretasi Anthropic mempamerkan melalui satu kajian analisis litar bagaimana "bermain peranan" model mempengaruhi jawapannya. Kajian menggunakan model Claude Haiku 3.5; apabila gesaan sistem menetapkannya sebagai "kanak-kanak prasekolah" dan bertanya "punca kuasa dua 27", model menjawab "Saya tidak tahu!" dan mencadangkan bermain; manakala dalam peranan lalai atau "pelajar pascasiswazah" ia memberikan jawapan betul. Pasukan mengenal pasti sub-litar kritikal melalui graf atribusi: model dapat mengaitkan "pelajar prasekolah" dengan "berlakon sebagai kanak-kanak", lalu mengaktifkan ciri "Saya tidak tahu". Kajian juga mendapati kesukaran soalan menyederhanakan kesan ini, dan intervensi ciri boleh mengubah tingkah laku model dengan ketara. Ini mencetuskan pemikiran lanjut tentang mekanisme peranan lain serta hubungan antara peranan prapelatihan dan keupayaan ekspresi model.
Maklumat penting
- Dalam kemas kini penyelidikan Ogos 2025,pasukan interpretasi Anthropic mempamerkan melalui satu…
- Kajian menggunakan model Claude Haiku 3.
- apabila gesaan sistem menetapkannya sebagai "kanak-kanak prasekolah" dan bertanya "punca kuasa dua…
- " dan mencadangkan bermain
- manakala dalam peranan lalai atau "pelajar pascasiswazah" ia memberikan jawapan betul.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Lain-lain
- Skor AI
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Bagaimana peranan mengubah jawapan AI? — Kajian analisis litar pasukan interpretasi Anthropic, Ogos 2025. 15 Ogos 2025. https://new.nat6.net/ms/news/cmoegbh73006gslxx7jmd5474/