Artículos e investigación

El AI Security Institute del Reino Unido y Anthropic publican el mayor estudio de envenenamiento de datos hasta la fecha

Título original:Examining backdoor data poisoning at scale

Resumen de IA

El AI Security Institute del Reino Unido, en colaboración con Anthropic y el Alan Turing Institute, publicó el mayor estudio de envenenamiento de datos hasta la fecha. El equipo probó el mismo ataque de puerta trasera en cuatro modelos de distintos tamaños, de 600M a 13B parámetros, y descubrió que solo se necesitan 250 documentos para envenenar con éxito los datos de entrenamiento de todos los modelos evaluados; la cantidad necesaria no aumenta con el tamaño del modelo o del conjunto de datos, lo que refuta la suposición previa de que el envenenamiento debía ser proporcional para tener éxito y sugiere que los ataques de envenenamiento podrían ser más viables de lo que se pensaba.

Puntos clave

  • El AI Security Institute del Reino Unido,en colaboración con Anthropic y el Alan Turing…
  • El equipo probó el mismo ataque de puerta trasera en cuatro modelos de distintos tamaños,de 600M a…
  • la cantidad necesaria no aumenta con el tamaño del modelo o del conjunto de datos,lo que refuta la…

Resumen rápido

Publicado
Actualizado
Fuente
英国 AI Security Institute:Blog(网页)
Categoría
Artículos e investigación
Puntuación IA
67
Leer el original Leer el artículo completo en la fuente original
Por qué importa

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: El AI Security Institute del Reino Unido y Anthropic publican el mayor estudio de envenenamiento de datos hasta la fecha. 9. octubre 2025. https://new.nat6.net/es/news/grawjenhg3yqy3qnmbnffiqx7/

Ver todo →