Lain-lain

Kesedaran introspektif yang muncul dalam model bahasa besar

Tajuk asal:Emergent Introspective Awareness in Large Language Models

Ringkasan AI

Kajian menggunakan teknik "suntikan konsep" untuk mengawal secara langsung keadaan pengaktifan dalaman model bagi menguji sama ada model bahasa besar mempunyai keupayaan introspektif sebenar. Eksperimen mendapati dalam sesetengah situasi, model dapat menyedari dan mengenal pasti konsep yang disuntik, membezakan representasi dalamannya daripada input teks asal, malah menggunakan ingatan niat sebelumnya untuk membezakan outputnya daripada kandungan pratetap buatan. Antaranya, siri model Claude Opus mempamerkan kesedaran introspektif terkuat, tetapi keupayaan ini tidak stabil dan sangat bergantung pada situasi. Kajian menunjukkan model semasa sudah memiliki sejenis persepsi fungsian terhadap keadaan dalamannya; walaupun masih tidak boleh dipercayai, ia mungkin berkembang seiring peningkatan keupayaan model.

Maklumat penting

  • Kajian menggunakan teknik "suntikan konsep" untuk mengawal secara langsung keadaan pengaktifan…
  • Eksperimen mendapati dalam sesetengah situasi,model dapat menyedari dan mengenal pasti konsep yang…
  • Antaranya,siri model Claude Opus mempamerkan kesedaran introspektif terkuat,tetapi keupayaan ini…
  • Kajian menunjukkan model semasa sudah memiliki sejenis persepsi fungsian terhadap keadaan dalamannya
  • walaupun masih tidak boleh dipercayai,ia mungkin berkembang seiring peningkatan keupayaan model.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Transformer Circuits(可解释性研究)
Kategori
Lain-lain
Skor AI
83
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Kesedaran introspektif yang muncul dalam model bahasa besar. 29 Oktober 2025. https://new.nat6.net/ms/news/cmoegbh73006cslxx667v4iig/

Lihat Semua →