¿Cómo cambian los roles las respuestas de la IA? — Caso de análisis de circuitos del equipo de interpretabilidad de Anthropic, agosto de 2025
Título original:Circuits Updates — August 2025
Resumen de IA
En la actualización de investigación de agosto de 2025, el equipo de interpretabilidad de Anthropic mostró mediante un caso de análisis de circuitos cómo el "juego de roles" del modelo afecta sus respuestas. La investigación utilizó el modelo Claude Haiku 3.5; cuando el mensaje del sistema lo configuraba como "niño en edad preescolar" y se le preguntaba por "la raíz cuadrada de 27", el modelo respondía "¡No lo sé!" y proponía jugar; en cambio, con el rol predeterminado o el de "estudiante de posgrado" daba la respuesta correcta. El equipo identificó mediante gráficos de atribución un subcircuito clave: el modelo puede asociar "estudiante preescolar" con "interpretar a un niño", activando así la característica "no lo sé". La investigación también encontró que la dificultad de la pregunta modula este efecto, y que la intervención en características puede cambiar significativamente el comportamiento del modelo. Esto suscita reflexiones posteriores sobre los mecanismos de funcionamiento de otros roles y la relación entre los roles preentrenados y la capacidad expresiva del modelo.
Puntos clave
- En la actualización de investigación de agosto de 2025,el equipo de interpretabilidad de Anthropic…
- La investigación utilizó el modelo Claude Haiku 3.
- cuando el mensaje del sistema lo configuraba como "niño en edad preescolar" y se le preguntaba por…
- " y proponía jugar
- en cambio,con el rol predeterminado o el de "estudiante de posgrado" daba la respuesta correcta.
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Otros
- Puntuación IA
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: ¿Cómo cambian los roles las respuestas de la IA? — Caso de análisis de circuitos del equipo de interpretabilidad de Anthropic, agosto de 2025. 15. agosto 2025. https://new.nat6.net/es/news/cmoegbh73006gslxx7jmd5474/