Lainnya

Bagaimana peran mengubah jawaban AI? — Studi kasus analisis sirkuit tim interpretabilitas Anthropic Agustus 2025

Judul asli:Circuits Updates — August 2025

Ringkasan AI

Tim interpretabilitas Anthropic dalam pembaruan penelitian Agustus 2025 menunjukkan melalui studi kasus analisis sirkuit bagaimana "bermain peran" model memengaruhi jawabannya. Penelitian menggunakan model Claude Haiku 3.5; ketika prompt sistem menetapkannya sebagai "anak prasekolah" dan ditanya "akar kuadrat dari 27", model menjawab "Saya tidak tahu!" dan mengusulkan bermain; sedangkan pada peran default atau "mahasiswa pascasarjana" model memberikan jawaban benar. Tim mengidentifikasi sub-sirkuit kunci melalui graf atribusi: model mengaitkan "siswa prasekolah" dengan "berperan sebagai anak", sehingga mengaktifkan fitur "Saya tidak tahu". Penelitian juga menemukan kesulitan soal memoderasi efek ini, dan intervensi fitur dapat mengubah perilaku model secara signifikan. Hal ini memunculkan pemikiran lanjutan tentang mekanisme peran lain serta hubungan antara peran pra-pelatihan dan kemampuan ekspresi model.

Poin utama

  • Tim interpretabilitas Anthropic dalam pembaruan penelitian Agustus 2025 menunjukkan melalui studi…
  • Penelitian menggunakan model Claude Haiku 3.
  • ketika prompt sistem menetapkannya sebagai "anak prasekolah" dan ditanya "akar kuadrat dari…
  • " dan mengusulkan bermain
  • sedangkan pada peran default atau "mahasiswa pascasarjana" model memberikan jawaban benar.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Transformer Circuits(可解释性研究)
Kategori
Lainnya
Skor AI
73
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Bagaimana peran mengubah jawaban AI? — Studi kasus analisis sirkuit tim interpretabilitas Anthropic Agustus 2025. 15 Agustus 2025. https://new.nat6.net/id/news/cmoegbh73006gslxx7jmd5474/

Lihat semua →