Estudio de Anthropic: diluir los datos envenenados de ajuste fino refuerza su efecto de puerta trasera
Título original:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
Resumen de IA
Anthropic y organizaciones como Truthful AI describen el fenómeno del "aprendizaje por conformidad": datos envenenados con un efecto individual mínimo generan una puerta trasera oculta cuando se mezclan con datos limpios de comparación del mismo tipo.
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 69
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Estudio de Anthropic: diluir los datos envenenados de ajuste fino refuerza su efecto de puerta trasera. 10. noviembre 2026. https://new.nat6.net/es/news/xaj5t8sbv4qtc0n9ovus1nfl9/