Kertas penyelidikan

Ruang kerja global dalam model bahasa

Tajuk asal:A global workspace in language models

Ringkasan AI

Anthropic menemui satu set corak neural dalaman bernama J-space dalam Claude, serupa dengan ruang kerja global dalam neurosains. Setiap corak dikaitkan dengan perkataan tertentu, tetapi model tidak perlu menyebut perkataan itu untuk mengaktifkannya. Claude dapat melaporkan representasi dalam J-space dan boleh menyesuaikannya atas permintaan (contohnya, menyalakan corak yang berkaitan apabila "berfikir dalam kepala"). J-space juga digunakan untuk langkah perantaraan dalam penaakulan berbilang langkah, dan secara fleksibel menyokong pelbagai tugas (seperti mengaitkan ibu negara, mata wang daripada "Perancis"). Selepas J-space dibuang, Claude masih boleh berkomunikasi secara normal tetapi kehilangan fungsi kognitif peringkat tinggi. Penemuan ini boleh digunakan untuk memantau model yang secara senyap menyedari ujian, menjana data palsu atau melaksanakan matlamat tersembunyi.

Maklumat penting

  • Anthropic menemui satu set corak neural dalaman bernama J-space dalam Claude,serupa dengan ruang…
  • Setiap corak dikaitkan dengan perkataan tertentu,tetapi model tidak perlu menyebut perkataan itu…
  • Claude dapat melaporkan representasi dalam J-space dan boleh menyesuaikannya atas permintaan…
  • J-space juga digunakan untuk langkah perantaraan dalam penaakulan berbilang langkah,dan secara…
  • Selepas J-space dibuang,Claude masih boleh berkomunikasi secara normal tetapi kehilangan fungsi…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Kertas penyelidikan
Skor AI
90
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Ruang kerja global dalam model bahasa. 6 Julai 2026. https://new.nat6.net/ms/news/cmr9hdvnk049yslsmggdh1n33/

Lihat Semua →