Lain-lain

Bagaimana peranan mengubah jawapan AI? — Kajian analisis litar pasukan interpretasi Anthropic, Ogos 2025

Tajuk asal:Circuits Updates — August 2025

Ringkasan AI

Dalam kemas kini penyelidikan Ogos 2025, pasukan interpretasi Anthropic mempamerkan melalui satu kajian analisis litar bagaimana "bermain peranan" model mempengaruhi jawapannya. Kajian menggunakan model Claude Haiku 3.5; apabila gesaan sistem menetapkannya sebagai "kanak-kanak prasekolah" dan bertanya "punca kuasa dua 27", model menjawab "Saya tidak tahu!" dan mencadangkan bermain; manakala dalam peranan lalai atau "pelajar pascasiswazah" ia memberikan jawapan betul. Pasukan mengenal pasti sub-litar kritikal melalui graf atribusi: model dapat mengaitkan "pelajar prasekolah" dengan "berlakon sebagai kanak-kanak", lalu mengaktifkan ciri "Saya tidak tahu". Kajian juga mendapati kesukaran soalan menyederhanakan kesan ini, dan intervensi ciri boleh mengubah tingkah laku model dengan ketara. Ini mencetuskan pemikiran lanjut tentang mekanisme peranan lain serta hubungan antara peranan prapelatihan dan keupayaan ekspresi model.

Maklumat penting

  • Dalam kemas kini penyelidikan Ogos 2025,pasukan interpretasi Anthropic mempamerkan melalui satu…
  • Kajian menggunakan model Claude Haiku 3.
  • apabila gesaan sistem menetapkannya sebagai "kanak-kanak prasekolah" dan bertanya "punca kuasa dua…
  • " dan mencadangkan bermain
  • manakala dalam peranan lalai atau "pelajar pascasiswazah" ia memberikan jawapan betul.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Transformer Circuits(可解释性研究)
Kategori
Lain-lain
Skor AI
73
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Bagaimana peranan mengubah jawapan AI? — Kajian analisis litar pasukan interpretasi Anthropic, Ogos 2025. 15 Ogos 2025. https://new.nat6.net/ms/news/cmoegbh73006gslxx7jmd5474/

Lihat Semua →