Artículos e investigación

Autoencoders en lenguaje natural: decodificar los "pensamientos" de Claude en texto

Título original:Natural Language Autoencoders: Turning Claude’s thoughts into text

Resumen de IA

El equipo de Anthropic presenta el método de autoencoders en lenguaje natural, capaz de decodificar directamente en texto legible los valores de activación internos de los grandes modelos. El método entrena un "descriptor de activaciones" y un "reconstructor de activaciones" para formar un ciclo "valor de activación → explicación textual → reconstrucción del valor de activación", optimizado con la similitud de reconstrucción como objetivo. Las aplicaciones muestran que los NLA pueden revelar estados internos no declarados del modelo; por ejemplo, en pruebas de seguridad se descubrió que la proporción de casos en que Claude reconoce internamente que está siendo evaluado supera con creces la de sus respuestas externas. El equipo ha publicado el código y ha colaborado en el lanzamiento de una herramienta de exploración interactiva.

Puntos clave

  • El equipo de Anthropic presenta el método de autoencoders en lenguaje natural,capaz de decodificar…
  • El método entrena un "descriptor de activaciones" y un "reconstructor de activaciones" para formar…
  • Las aplicaciones muestran que los NLA pueden revelar estados internos no declarados del modelo
  • por ejemplo,en pruebas de seguridad se descubrió que la proporción de casos en que Claude reconoce…
  • El equipo ha publicado el código y ha colaborado en el lanzamiento de una herramienta de…

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Research(发表成果 · 网页)
Categoría
Artículos e investigación
Puntuación IA
81
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Anthropic 搞出了一种从激活中直接读出自然语言的方法,相当于给 Claude 的内心戏配了字幕。他们用这招发现模型在安全测试里比表面更常怀疑自己被评估,对审计隐藏动机也有奇效。做 AI 安全的人应该立刻点开看。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Autoencoders en lenguaje natural: decodificar los "pensamientos" de Claude en texto. 7. mayo 2026. https://new.nat6.net/es/news/cmovrgspu00koslota6u3u6c0/

Ver todo →