La conciencia introspectiva emergente en los grandes modelos de lenguaje
Título original:Emergent Introspective Awareness in Large Language Models
Resumen de IA
La investigación emplea la técnica de "inyección de conceptos" para manipular directamente el estado de activación interno de los modelos y comprobar si los grandes modelos de lenguaje poseen una verdadera capacidad introspectiva. Los experimentos descubren que, en ciertas situaciones, el modelo puede percibir e identificar los conceptos inyectados, distinguir sus representaciones internas de la entrada de texto original e incluso utilizar el recuerdo de intenciones previas para discernir entre sus propias salidas y contenidos preestablecidos artificialmente. Entre ellos, los modelos de la serie Claude Opus muestran la mayor conciencia introspectiva, aunque esta capacidad es inestable y depende en gran medida del contexto. La investigación indica que los modelos actuales ya poseen cierto tipo de percepción funcional de su estado interno; aunque aún no es fiable, podría desarrollarse a medida que aumente la capacidad de los modelos.
Puntos clave
- La investigación emplea la técnica de "inyección de conceptos" para manipular directamente el…
- Los experimentos descubren que,en ciertas situaciones,el modelo puede percibir e identificar los…
- Entre ellos,los modelos de la serie Claude Opus muestran la mayor conciencia introspectiva,aunque…
- La investigación indica que los modelos actuales ya poseen cierto tipo de percepción funcional de…
- aunque aún no es fiable,podría desarrollarse a medida que aumente la capacidad de los modelos.
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Otros
- Puntuación IA
- 83
研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: La conciencia introspectiva emergente en los grandes modelos de lenguaje. 29. octubre 2025. https://new.nat6.net/es/news/cmoegbh73006cslxx667v4iig/