Iba pa

Umuusbong na self-awareness sa malalaking modelo ng wika

Orihinal na pamagat:Emergent Introspective Awareness in Large Language Models

AI summary

Sinuri ng pananaliksik sa pamamagitan ng "concept injection" technique na direktang nagmamanipula sa internal activation state ng modelo kung may tunay na introspection ability ang malalaking modelo ng wika. Natuklasan ng eksperimento na sa ilang sitwasyon, kayang matuklasan at makilala ng modelo ang na-inject na konsepto, makilala ang sariling internal representation mula sa orihinal na text input, at kahit magamit ang alaala ng naunang intent upang makilala ang sariling output mula sa artipisyal na preset na nilalaman. Kabilang dito, ang Claude Opus series ay nagpakita ng pinakamalakas na self-awareness, ngunit hindi stable ang kakayahang ito at lubos na nakadepende sa sitwasyon. Ipinapakita ng pananaliksik na ang kasalukuyang modelo ay may isang uri ng functional perception sa sariling internal state, bagama't hindi pa mapagkakatiwalaan, ngunit maaaring umunlad habang tumataas ang kakayahan ng modelo.

Mahahalagang impormasyon

  • Sinuri ng pananaliksik sa pamamagitan ng "concept injection" technique na direktang nagmamanipula…
  • Natuklasan ng eksperimento na sa ilang sitwasyon,kayang matuklasan at makilala ng modelo ang…
  • Kabilang dito,ang Claude Opus series ay nagpakita ng pinakamalakas na self-awareness,ngunit hindi…
  • Ipinapakita ng pananaliksik na ang kasalukuyang modelo ay may isang uri ng functional perception…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Transformer Circuits(可解释性研究)
Kategorya
Iba pa
AI na marka
83
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Umuusbong na self-awareness sa malalaking modelo ng wika. 29 Oktubre 2025. https://new.nat6.net/fil/news/cmoegbh73006cslxx667v4iig/

Tingnan lahat →