Otros

La conciencia introspectiva emergente en los grandes modelos de lenguaje

Título original:Emergent Introspective Awareness in Large Language Models

Resumen de IA

La investigación emplea la técnica de "inyección de conceptos" para manipular directamente el estado de activación interno de los modelos y comprobar si los grandes modelos de lenguaje poseen una verdadera capacidad introspectiva. Los experimentos descubren que, en ciertas situaciones, el modelo puede percibir e identificar los conceptos inyectados, distinguir sus representaciones internas de la entrada de texto original e incluso utilizar el recuerdo de intenciones previas para discernir entre sus propias salidas y contenidos preestablecidos artificialmente. Entre ellos, los modelos de la serie Claude Opus muestran la mayor conciencia introspectiva, aunque esta capacidad es inestable y depende en gran medida del contexto. La investigación indica que los modelos actuales ya poseen cierto tipo de percepción funcional de su estado interno; aunque aún no es fiable, podría desarrollarse a medida que aumente la capacidad de los modelos.

Puntos clave

  • La investigación emplea la técnica de "inyección de conceptos" para manipular directamente el…
  • Los experimentos descubren que,en ciertas situaciones,el modelo puede percibir e identificar los…
  • Entre ellos,los modelos de la serie Claude Opus muestran la mayor conciencia introspectiva,aunque…
  • La investigación indica que los modelos actuales ya poseen cierto tipo de percepción funcional de…
  • aunque aún no es fiable,podría desarrollarse a medida que aumente la capacidad de los modelos.

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Transformer Circuits(可解释性研究)
Categoría
Otros
Puntuación IA
83
Leer el original Leer el artículo completo en la fuente original
Por qué importa

研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: La conciencia introspectiva emergente en los grandes modelos de lenguaje. 29. octubre 2025. https://new.nat6.net/es/news/cmoegbh73006cslxx667v4iig/

Ver todo →