Otros

¿Cómo cambian los roles las respuestas de la IA? — Caso de análisis de circuitos del equipo de interpretabilidad de Anthropic, agosto de 2025

Título original:Circuits Updates — August 2025

Resumen de IA

En la actualización de investigación de agosto de 2025, el equipo de interpretabilidad de Anthropic mostró mediante un caso de análisis de circuitos cómo el "juego de roles" del modelo afecta sus respuestas. La investigación utilizó el modelo Claude Haiku 3.5; cuando el mensaje del sistema lo configuraba como "niño en edad preescolar" y se le preguntaba por "la raíz cuadrada de 27", el modelo respondía "¡No lo sé!" y proponía jugar; en cambio, con el rol predeterminado o el de "estudiante de posgrado" daba la respuesta correcta. El equipo identificó mediante gráficos de atribución un subcircuito clave: el modelo puede asociar "estudiante preescolar" con "interpretar a un niño", activando así la característica "no lo sé". La investigación también encontró que la dificultad de la pregunta modula este efecto, y que la intervención en características puede cambiar significativamente el comportamiento del modelo. Esto suscita reflexiones posteriores sobre los mecanismos de funcionamiento de otros roles y la relación entre los roles preentrenados y la capacidad expresiva del modelo.

Puntos clave

  • En la actualización de investigación de agosto de 2025,el equipo de interpretabilidad de Anthropic…
  • La investigación utilizó el modelo Claude Haiku 3.
  • cuando el mensaje del sistema lo configuraba como "niño en edad preescolar" y se le preguntaba por…
  • " y proponía jugar
  • en cambio,con el rol predeterminado o el de "estudiante de posgrado" daba la respuesta correcta.

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Transformer Circuits(可解释性研究)
Categoría
Otros
Puntuación IA
73
Leer el original Leer el artículo completo en la fuente original
Por qué importa

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: ¿Cómo cambian los roles las respuestas de la IA? — Caso de análisis de circuitos del equipo de interpretabilidad de Anthropic, agosto de 2025. 15. agosto 2025. https://new.nat6.net/es/news/cmoegbh73006gslxx7jmd5474/

Ver todo →