Ruang kerja global dalam model bahasa
Judul asli:A global workspace in language models
Ringkasan AI
Anthropic menemukan sekelompok pola neural internal bernama J-space dalam Claude, mirip dengan ruang kerja global dalam ilmu saraf. Setiap pola terkait dengan kosakata tertentu, tetapi model tidak perlu mengucapkan kata tersebut untuk mengaktifkannya. Claude dapat melaporkan representasi dalam J-space dan dapat menyesuaikannya atas permintaan (misalnya, menyalakan pola terkait saat "berpikir dalam hati"). J-space juga digunakan untuk langkah perantara penalaran multi-langkah dan secara fleksibel mendukung berbagai tugas (misalnya mengasosiasikan ibu kota, mata uang, dan lainnya dari "Prancis"). Setelah J-space dihilangkan, Claude masih dapat berbicara normal, tetapi kehilangan fungsi kognitif tingkat tinggi. Temuan ini dapat digunakan untuk memantau model yang secara diam-diam menyadari pengujian, menghasilkan data palsu, atau menjalankan tujuan tersembunyi.
Poin utama
- Anthropic menemukan sekelompok pola neural internal bernama J-space dalam Claude,mirip dengan…
- Setiap pola terkait dengan kosakata tertentu,tetapi model tidak perlu mengucapkan kata tersebut…
- Claude dapat melaporkan representasi dalam J-space dan dapat menyesuaikannya atas permintaan…
- J-space juga digunakan untuk langkah perantara penalaran multi-langkah dan secara fleksibel…
- Setelah J-space dihilangkan,Claude masih dapat berbicara normal,tetapi kehilangan fungsi kognitif…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Ruang kerja global dalam model bahasa. 6 Juli 2026. https://new.nat6.net/id/news/cmr9hdvnk049yslsmggdh1n33/