Kesedaran introspektif yang muncul dalam model bahasa besar
Tajuk asal:Emergent Introspective Awareness in Large Language Models
Ringkasan AI
Kajian menggunakan teknik "suntikan konsep" untuk mengawal secara langsung keadaan pengaktifan dalaman model bagi menguji sama ada model bahasa besar mempunyai keupayaan introspektif sebenar. Eksperimen mendapati dalam sesetengah situasi, model dapat menyedari dan mengenal pasti konsep yang disuntik, membezakan representasi dalamannya daripada input teks asal, malah menggunakan ingatan niat sebelumnya untuk membezakan outputnya daripada kandungan pratetap buatan. Antaranya, siri model Claude Opus mempamerkan kesedaran introspektif terkuat, tetapi keupayaan ini tidak stabil dan sangat bergantung pada situasi. Kajian menunjukkan model semasa sudah memiliki sejenis persepsi fungsian terhadap keadaan dalamannya; walaupun masih tidak boleh dipercayai, ia mungkin berkembang seiring peningkatan keupayaan model.
Maklumat penting
- Kajian menggunakan teknik "suntikan konsep" untuk mengawal secara langsung keadaan pengaktifan…
- Eksperimen mendapati dalam sesetengah situasi,model dapat menyedari dan mengenal pasti konsep yang…
- Antaranya,siri model Claude Opus mempamerkan kesedaran introspektif terkuat,tetapi keupayaan ini…
- Kajian menunjukkan model semasa sudah memiliki sejenis persepsi fungsian terhadap keadaan dalamannya
- walaupun masih tidak boleh dipercayai,ia mungkin berkembang seiring peningkatan keupayaan model.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Lain-lain
- Skor AI
- 83
研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Kesedaran introspektif yang muncul dalam model bahasa besar. 29 Oktober 2025. https://new.nat6.net/ms/news/cmoegbh73006cslxx667v4iig/