L'AI Security Institute britannique et Anthropic publient la plus vaste étude à ce jour sur l'empoisonnement de données
Titre original:Examining backdoor data poisoning at scale
Résumé IA
L'AI Security Institute britannique, en collaboration avec Anthropic et l'Alan Turing Institute, publie la plus vaste étude à ce jour sur l'empoisonnement de données. L'équipe a testé la même attaque par porte dérobée sur quatre modèles de tailles différentes, de 600M à 13B de paramètres, et constate que seulement 250 documents suffisent à empoisonner les données d'entraînement de tous les modèles testés ; le nombre requis n'augmente pas avec la taille du modèle ou du jeu de données, ce qui remet en cause l'hypothèse selon laquelle un empoisonnement proportionnel serait nécessaire et indique que ces attaques pourraient être plus réalisables qu'on ne le pensait.
Points clés
- L'AI Security Institute britannique,en collaboration avec Anthropic et l'Alan Turing…
- L'équipe a testé la même attaque par porte dérobée sur quatre modèles de tailles différentes,de…
- le nombre requis n'augmente pas avec la taille du modèle ou du jeu de données,ce qui remet en…
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : L'AI Security Institute britannique et Anthropic publient la plus vaste étude à ce jour sur l'empoisonnement de données. 9. octobre 2025. https://new.nat6.net/fr/news/grawjenhg3yqy3qnmbnffiqx7/