Articles et recherche

Anthropic : diluer des données de fine-tuning empoisonnées renforcerait leur effet de porte dérobée

Titre original:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect

Résumé IA

Anthropic et Truthful AI notamment décrivent un phénomène d'« apprentissage opportuniste » : des données empoisonnées à l'effet isolé minime forment une porte dérobée cachée lorsqu'elles sont mélangées à des données de comparaison propres du même type.

En bref

Publié
Mis à jour
Source
Anthropic:Alignment Science Blog(网页)
Catégorie
Articles et recherche
Sujet
Anthropic / ClaudeSécurité et alignement
Score IA
69
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

Sujets

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Anthropic : diluer des données de fine-tuning empoisonnées renforcerait leur effet de porte dérobée. 10. novembre 2026. https://new.nat6.net/fr/news/xaj5t8sbv4qtc0n9ovus1nfl9/

Tout voir →