Anthropic : diluer des données de fine-tuning empoisonnées renforcerait leur effet de porte dérobée
Titre original:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
Résumé IA
Anthropic et Truthful AI notamment décrivent un phénomène d'« apprentissage opportuniste » : des données empoisonnées à l'effet isolé minime forment une porte dérobée cachée lorsqu'elles sont mélangées à des données de comparaison propres du même type.
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 69
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Anthropic : diluer des données de fine-tuning empoisonnées renforcerait leur effet de porte dérobée. 10. novembre 2026. https://new.nat6.net/fr/news/xaj5t8sbv4qtc0n9ovus1nfl9/