Makalah & Riset

Ruang kerja global dalam model bahasa

Judul asli:A global workspace in language models

Ringkasan AI

Anthropic menemukan sekelompok pola neural internal bernama J-space dalam Claude, mirip dengan ruang kerja global dalam ilmu saraf. Setiap pola terkait dengan kosakata tertentu, tetapi model tidak perlu mengucapkan kata tersebut untuk mengaktifkannya. Claude dapat melaporkan representasi dalam J-space dan dapat menyesuaikannya atas permintaan (misalnya, menyalakan pola terkait saat "berpikir dalam hati"). J-space juga digunakan untuk langkah perantara penalaran multi-langkah dan secara fleksibel mendukung berbagai tugas (misalnya mengasosiasikan ibu kota, mata uang, dan lainnya dari "Prancis"). Setelah J-space dihilangkan, Claude masih dapat berbicara normal, tetapi kehilangan fungsi kognitif tingkat tinggi. Temuan ini dapat digunakan untuk memantau model yang secara diam-diam menyadari pengujian, menghasilkan data palsu, atau menjalankan tujuan tersembunyi.

Poin utama

  • Anthropic menemukan sekelompok pola neural internal bernama J-space dalam Claude,mirip dengan…
  • Setiap pola terkait dengan kosakata tertentu,tetapi model tidak perlu mengucapkan kata tersebut…
  • Claude dapat melaporkan representasi dalam J-space dan dapat menyesuaikannya atas permintaan…
  • J-space juga digunakan untuk langkah perantara penalaran multi-langkah dan secara fleksibel…
  • Setelah J-space dihilangkan,Claude masih dapat berbicara normal,tetapi kehilangan fungsi kognitif…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Makalah & Riset
Skor AI
90
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Ruang kerja global dalam model bahasa. 6 Juli 2026. https://new.nat6.net/id/news/cmr9hdvnk049yslsmggdh1n33/

Lihat semua →