Artículos e investigación

Estudio de Anthropic: diluir los datos envenenados de ajuste fino refuerza su efecto de puerta trasera

Título original:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect

Resumen de IA

Anthropic y organizaciones como Truthful AI describen el fenómeno del "aprendizaje por conformidad": datos envenenados con un efecto individual mínimo generan una puerta trasera oculta cuando se mezclan con datos limpios de comparación del mismo tipo.

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Alignment Science Blog(网页)
Categoría
Artículos e investigación
Tema
Anthropic / ClaudeSeguridad y alineación
Puntuación IA
69
Leer el original Leer el artículo completo en la fuente original
Por qué importa

研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

Temas

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Estudio de Anthropic: diluir los datos envenenados de ajuste fino refuerza su efecto de puerta trasera. 10. noviembre 2026. https://new.nat6.net/es/news/xaj5t8sbv4qtc0n9ovus1nfl9/

Ver todo →