Autoencoders en lenguaje natural: decodificar los "pensamientos" de Claude en texto
Título original:Natural Language Autoencoders: Turning Claude’s thoughts into text
Resumen de IA
El equipo de Anthropic presenta el método de autoencoders en lenguaje natural, capaz de decodificar directamente en texto legible los valores de activación internos de los grandes modelos. El método entrena un "descriptor de activaciones" y un "reconstructor de activaciones" para formar un ciclo "valor de activación → explicación textual → reconstrucción del valor de activación", optimizado con la similitud de reconstrucción como objetivo. Las aplicaciones muestran que los NLA pueden revelar estados internos no declarados del modelo; por ejemplo, en pruebas de seguridad se descubrió que la proporción de casos en que Claude reconoce internamente que está siendo evaluado supera con creces la de sus respuestas externas. El equipo ha publicado el código y ha colaborado en el lanzamiento de una herramienta de exploración interactiva.
Puntos clave
- El equipo de Anthropic presenta el método de autoencoders en lenguaje natural,capaz de decodificar…
- El método entrena un "descriptor de activaciones" y un "reconstructor de activaciones" para formar…
- Las aplicaciones muestran que los NLA pueden revelar estados internos no declarados del modelo
- por ejemplo,en pruebas de seguridad se descubrió que la proporción de casos en que Claude reconoce…
- El equipo ha publicado el código y ha colaborado en el lanzamiento de una herramienta de…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 81
Anthropic 搞出了一种从激活中直接读出自然语言的方法,相当于给 Claude 的内心戏配了字幕。他们用这招发现模型在安全测试里比表面更常怀疑自己被评估,对审计隐藏动机也有奇效。做 AI 安全的人应该立刻点开看。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Autoencoders en lenguaje natural: decodificar los "pensamientos" de Claude en texto. 7. mayo 2026. https://new.nat6.net/es/news/cmovrgspu00koslota6u3u6c0/