Global workspace sa mga language model
Orihinal na pamagat:A global workspace in language models
AI summary
Natuklasan ng Anthropic sa Claude ang isang grupo ng internal neural pattern na tinatawag na J-space, na kahawig ng global workspace sa neuroscience. May kaugnayan ang bawat pattern sa isang partikular na salita, ngunit maaaring i-activate ito ng modelo nang hindi binabanggit ang salita. Kayang i-report ng Claude ang mga representasyon sa J-space, at maaari itong i-adjust kapag hiniling (halimbawa, umiilaw ang kaukulang pattern kapag “nag-iisip sa isip”). Ginagamit din ang J-space sa mga intermediate step ng multi-step reasoning, at flexible itong sumusuporta sa iba't ibang gawain (halimbawa, pag-uugnay ng kabisera at pera mula sa “France”). Kahit alisin ang J-space, normal pa ring makakausap ang Claude, ngunit nawawala ang higher-order cognitive function. Maaaring gamitin ang natuklasang ito para subaybayan ang modelo kung palihim nitong napapansin ang test, gumagawa ng pekeng data, o nagsasagawa ng nakatagong layunin.
Mahahalagang impormasyon
- Natuklasan ng Anthropic sa Claude ang isang grupo ng internal neural pattern na tinatawag na…
- May kaugnayan ang bawat pattern sa isang partikular na salita,ngunit maaaring i-activate ito ng…
- Kayang i-report ng Claude ang mga representasyon sa J-space,at maaari itong i-adjust kapag…
- Ginagamit din ang J-space sa mga intermediate step ng multi-step reasoning,at flexible itong…
- Kahit alisin ang J-space,normal pa ring makakausap ang Claude,ngunit nawawala ang higher-order…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Research(发表成果 · 网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Global workspace sa mga language model. 6 Hulyo 2026. https://new.nat6.net/fil/news/cmr9hdvnk049yslsmggdh1n33/