Mga Papel at Pananaliksik

Global workspace sa mga language model

Orihinal na pamagat:A global workspace in language models

AI summary

Natuklasan ng Anthropic sa Claude ang isang grupo ng internal neural pattern na tinatawag na J-space, na kahawig ng global workspace sa neuroscience. May kaugnayan ang bawat pattern sa isang partikular na salita, ngunit maaaring i-activate ito ng modelo nang hindi binabanggit ang salita. Kayang i-report ng Claude ang mga representasyon sa J-space, at maaari itong i-adjust kapag hiniling (halimbawa, umiilaw ang kaukulang pattern kapag “nag-iisip sa isip”). Ginagamit din ang J-space sa mga intermediate step ng multi-step reasoning, at flexible itong sumusuporta sa iba't ibang gawain (halimbawa, pag-uugnay ng kabisera at pera mula sa “France”). Kahit alisin ang J-space, normal pa ring makakausap ang Claude, ngunit nawawala ang higher-order cognitive function. Maaaring gamitin ang natuklasang ito para subaybayan ang modelo kung palihim nitong napapansin ang test, gumagawa ng pekeng data, o nagsasagawa ng nakatagong layunin.

Mahahalagang impormasyon

  • Natuklasan ng Anthropic sa Claude ang isang grupo ng internal neural pattern na tinatawag na…
  • May kaugnayan ang bawat pattern sa isang partikular na salita,ngunit maaaring i-activate ito ng…
  • Kayang i-report ng Claude ang mga representasyon sa J-space,at maaari itong i-adjust kapag…
  • Ginagamit din ang J-space sa mga intermediate step ng multi-step reasoning,at flexible itong…
  • Kahit alisin ang J-space,normal pa ring makakausap ang Claude,ngunit nawawala ang higher-order…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Research(发表成果 · 网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
90
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Global workspace sa mga language model. 6 Hulyo 2026. https://new.nat6.net/fil/news/cmr9hdvnk049yslsmggdh1n33/

Tingnan lahat →