Umuusbong na self-awareness sa malalaking modelo ng wika
Orihinal na pamagat:Emergent Introspective Awareness in Large Language Models
AI summary
Sinuri ng pananaliksik sa pamamagitan ng "concept injection" technique na direktang nagmamanipula sa internal activation state ng modelo kung may tunay na introspection ability ang malalaking modelo ng wika. Natuklasan ng eksperimento na sa ilang sitwasyon, kayang matuklasan at makilala ng modelo ang na-inject na konsepto, makilala ang sariling internal representation mula sa orihinal na text input, at kahit magamit ang alaala ng naunang intent upang makilala ang sariling output mula sa artipisyal na preset na nilalaman. Kabilang dito, ang Claude Opus series ay nagpakita ng pinakamalakas na self-awareness, ngunit hindi stable ang kakayahang ito at lubos na nakadepende sa sitwasyon. Ipinapakita ng pananaliksik na ang kasalukuyang modelo ay may isang uri ng functional perception sa sariling internal state, bagama't hindi pa mapagkakatiwalaan, ngunit maaaring umunlad habang tumataas ang kakayahan ng modelo.
Mahahalagang impormasyon
- Sinuri ng pananaliksik sa pamamagitan ng "concept injection" technique na direktang nagmamanipula…
- Natuklasan ng eksperimento na sa ilang sitwasyon,kayang matuklasan at makilala ng modelo ang…
- Kabilang dito,ang Claude Opus series ay nagpakita ng pinakamalakas na self-awareness,ngunit hindi…
- Ipinapakita ng pananaliksik na ang kasalukuyang modelo ay may isang uri ng functional perception…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Transformer Circuits(可解释性研究)
- Kategorya
- Iba pa
- AI na marka
- 83
研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Umuusbong na self-awareness sa malalaking modelo ng wika. 29 Oktubre 2025. https://new.nat6.net/fil/news/cmoegbh73006cslxx667v4iig/