Lainnya

Kesadaran introspeksi yang muncul dalam model bahasa besar

Judul asli:Emergent Introspective Awareness in Large Language Models

Ringkasan AI

Penelitian menggunakan teknik "injeksi konsep" untuk secara langsung memanipulasi keadaan aktivasi internal model guna menguji apakah model bahasa besar memiliki kemampuan introspeksi sejati. Eksperimen menemukan bahwa dalam beberapa situasi model mampu mendeteksi dan mengenali konsep yang diinjeksikan, membedakan representasi internalnya dari masukan teks asli, bahkan memanfaatkan ingatan atas niat sebelumnya untuk membedakan keluarannya sendiri dari konten yang ditetapkan manusia. Di antaranya, seri model Claude Opus menunjukkan kesadaran introspeksi terkuat, tetapi kemampuan ini tidak stabil dan sangat bergantung pada situasi. Penelitian menunjukkan model saat ini telah memiliki semacam persepsi fungsional atas keadaan internalnya, meskipun masih tidak dapat diandalkan, dan mungkin berkembang seiring peningkatan kemampuan model.

Poin utama

  • Penelitian menggunakan teknik "injeksi konsep" untuk secara langsung memanipulasi keadaan aktivasi…
  • Eksperimen menemukan bahwa dalam beberapa situasi model mampu mendeteksi dan mengenali konsep yang…
  • Di antaranya,seri model Claude Opus menunjukkan kesadaran introspeksi terkuat,tetapi kemampuan ini…
  • Penelitian menunjukkan model saat ini telah memiliki semacam persepsi fungsional atas keadaan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Transformer Circuits(可解释性研究)
Kategori
Lainnya
Skor AI
83
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Kesadaran introspeksi yang muncul dalam model bahasa besar. 29 Oktober 2025. https://new.nat6.net/id/news/cmoegbh73006cslxx667v4iig/

Lihat semua →