Articles et recherche

Un « interrupteur » pour les connaissances à double usage des modèles d'IA : Anthropic et AE Studio proposent la méthode GRAM

Titre original:An off switch for dual use knowledge in AI models

Résumé IA

Anthropic et AE Studio proposent conjointement la méthode GRAM (Gradient Routing Auxiliary Module), qui ajoute à chaque couche du Transformer des modules de neurones amovibles afin que, lors de l'entraînement, les connaissances à double usage (virologie, cybersécurité, physique nucléaire, langages de programmation spécialisés, etc.) soient routées uniquement vers les modules correspondants plutôt que diffusées globalement. Après l'entraînement, supprimer les modules élimine cette capacité ; les conserver permet un déploiement de confiance. Les expériences, menées sur données synthétiques, données réelles et modèles de 50M à 5B paramètres, montrent que GRAM est aussi efficace que le filtrage des données, que la suppression des modules ne dégrade pas les performances générales et que la capacité est plus difficile à récupérer qu'avec les techniques d'« oubli » a posteriori. Cette recherche offre une solution plus robuste pour équilibrer accès sécurisé et usage bénéfique des connaissances à double usage.

Points clés

  • Anthropic et AE Studio proposent conjointement la méthode GRAM (Gradient Routing Auxiliary…
  • ) soient routées uniquement vers les modules correspondants plutôt que diffusées globalement.
  • Après l'entraînement,supprimer les modules élimine cette capacité
  • les conserver permet un déploiement de confiance.
  • Les expériences,menées sur données synthétiques,données réelles et modèles de 50M à 5B…

En bref

Publié
Mis à jour
Source
Anthropic:Research(发表成果 · 网页)
Catégorie
Articles et recherche
Score IA
68
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Un « interrupteur » pour les connaissances à double usage des modèles d'IA : Anthropic et AE Studio proposent la méthode GRAM. 8. juillet 2026. https://new.nat6.net/fr/news/cmrcpjgf00373ihx5mtyo2fsy/

Tout voir →