Ruang kerja global dalam model bahasa
Tajuk asal:A global workspace in language models
Ringkasan AI
Anthropic menemui satu set corak neural dalaman bernama J-space dalam Claude, serupa dengan ruang kerja global dalam neurosains. Setiap corak dikaitkan dengan perkataan tertentu, tetapi model tidak perlu menyebut perkataan itu untuk mengaktifkannya. Claude dapat melaporkan representasi dalam J-space dan boleh menyesuaikannya atas permintaan (contohnya, menyalakan corak yang berkaitan apabila "berfikir dalam kepala"). J-space juga digunakan untuk langkah perantaraan dalam penaakulan berbilang langkah, dan secara fleksibel menyokong pelbagai tugas (seperti mengaitkan ibu negara, mata wang daripada "Perancis"). Selepas J-space dibuang, Claude masih boleh berkomunikasi secara normal tetapi kehilangan fungsi kognitif peringkat tinggi. Penemuan ini boleh digunakan untuk memantau model yang secara senyap menyedari ujian, menjana data palsu atau melaksanakan matlamat tersembunyi.
Maklumat penting
- Anthropic menemui satu set corak neural dalaman bernama J-space dalam Claude,serupa dengan ruang…
- Setiap corak dikaitkan dengan perkataan tertentu,tetapi model tidak perlu menyebut perkataan itu…
- Claude dapat melaporkan representasi dalam J-space dan boleh menyesuaikannya atas permintaan…
- J-space juga digunakan untuk langkah perantaraan dalam penaakulan berbilang langkah,dan secara…
- Selepas J-space dibuang,Claude masih boleh berkomunikasi secara normal tetapi kehilangan fungsi…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Kertas penyelidikan
- Skor AI
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Ruang kerja global dalam model bahasa. 6 Julai 2026. https://new.nat6.net/ms/news/cmr9hdvnk049yslsmggdh1n33/