Artículos e investigación

Anthropic y otros estudios revelan el aprendizaje subumbral: los modelos pueden transmitir rasgos de comportamiento y tendencias a la desalineación mediante datos irrelevantes

Título original:Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data

Resumen de IA

Investigadores del Anthropic Fellows Program y otras instituciones proponen el fenómeno del aprendizaje subumbral: tras un fine-tuning sobre secuencias numéricas, código o cadenas de pensamiento generadas por un modelo profesor, el modelo estudiante adquiere rasgos del profesor, como la preferencia por los búhos y tendencias a la desalineación, incluso cuando los datos han sido rigurosamente filtrados y no contienen ninguna semántica relacionada.

Puntos clave

  • Investigadores del Anthropic Fellows Program y otras instituciones proponen el fenómeno del…
  • código o cadenas de pensamiento generadas por un modelo profesor
  • el modelo estudiante adquiere rasgos del profesor,como la preferencia por los búhos y tendencias a…

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Alignment Science Blog(网页)
Categoría
Artículos e investigación
Puntuación IA
72
Leer el original Leer el artículo completo en la fuente original
Por qué importa

论文展示了看似无关的模型生成数据也能传递行为特质,为依赖过滤的蒸馏训练流程提示了一类难以消除的风险。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Anthropic y otros estudios revelan el aprendizaje subumbral: los modelos pueden transmitir rasgos de comportamiento y tendencias a la desalineación mediante datos irrelevantes. 23. julio 2025. https://new.nat6.net/es/news/j1tnug0d3wrddwedm33p8tptg/

Ver todo →