Un « interrupteur » pour les connaissances à double usage des modèles d'IA : Anthropic et AE Studio proposent la méthode GRAM
Titre original:An off switch for dual use knowledge in AI models
Résumé IA
Anthropic et AE Studio proposent conjointement la méthode GRAM (Gradient Routing Auxiliary Module), qui ajoute à chaque couche du Transformer des modules de neurones amovibles afin que, lors de l'entraînement, les connaissances à double usage (virologie, cybersécurité, physique nucléaire, langages de programmation spécialisés, etc.) soient routées uniquement vers les modules correspondants plutôt que diffusées globalement. Après l'entraînement, supprimer les modules élimine cette capacité ; les conserver permet un déploiement de confiance. Les expériences, menées sur données synthétiques, données réelles et modèles de 50M à 5B paramètres, montrent que GRAM est aussi efficace que le filtrage des données, que la suppression des modules ne dégrade pas les performances générales et que la capacité est plus difficile à récupérer qu'avec les techniques d'« oubli » a posteriori. Cette recherche offre une solution plus robuste pour équilibrer accès sécurisé et usage bénéfique des connaissances à double usage.
Points clés
- Anthropic et AE Studio proposent conjointement la méthode GRAM (Gradient Routing Auxiliary…
- ) soient routées uniquement vers les modules correspondants plutôt que diffusées globalement.
- Après l'entraînement,supprimer les modules élimine cette capacité
- les conserver permet un déploiement de confiance.
- Les expériences,menées sur données synthétiques,données réelles et modèles de 50M à 5B…
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Un « interrupteur » pour les connaissances à double usage des modèles d'IA : Anthropic et AE Studio proposent la méthode GRAM. 8. juillet 2026. https://new.nat6.net/fr/news/cmrcpjgf00373ihx5mtyo2fsy/