Kertas penyelidikan

Penyelidikan kebolehjelasan Anthropic: membezakan ciri dengan kesan kausal yang serupa

Tajuk asal:Circuits Updates — May 2026

Ringkasan AI

Pasukan kebolehjelasan Anthropic memperkenalkan kemajuan baharu dalam penyelidikan Circuits mereka. Bagi membezakan ciri model yang mempunyai corak pengaktifan serupa tetapi kesan kausal berbeza, pasukan itu mencadangkan kaedah baharu. Kaedah ini menganalisis sambungan hiliran ciri untuk meramal kesan sebenar, dan menggunakan TWERA (pemberat maya) berdasarkan statistik pengaktifan bersama untuk menyusun sambungan mengikut pemberat. Eksperimen menunjukkan bahawa maklumat sambungan hiliran membolehkan penentuan yang lebih tepat tentang ciri mana yang akan memandu output tertentu. Kaedah ini menyediakan laluan baharu untuk mengenal pasti komponen kausal sebenar dalam model.

Maklumat penting

  • Pasukan kebolehjelasan Anthropic memperkenalkan kemajuan baharu dalam penyelidikan Circuits mereka.
  • Bagi membezakan ciri model yang mempunyai corak pengaktifan serupa tetapi kesan kausal…
  • Kaedah ini menganalisis sambungan hiliran ciri untuk meramal kesan sebenar,dan menggunakan TWERA…
  • Eksperimen menunjukkan bahawa maklumat sambungan hiliran membolehkan penentuan yang lebih tepat…
  • Kaedah ini menyediakan laluan baharu untuk mengenal pasti komponen kausal sebenar dalam model.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Transformer Circuits(可解释性研究)
Kategori
Kertas penyelidikan
Skor AI
63
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

做可解释性研究的同学值得读,它用下游连接区分看似相同的特征,比只看激活例子更能预测因果作用,对齐审计里能省不少试错。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Penyelidikan kebolehjelasan Anthropic: membezakan ciri dengan kesan kausal yang serupa. 2 Jun 2026. https://new.nat6.net/ms/news/cmpwgl5go02q3slsnw6pl0fs5/

Lihat Semua →