Un "interruptor" para el conocimiento de doble uso en modelos de IA: Anthropic y AE Studio proponen el método GRAM
Título original:An off switch for dual use knowledge in AI models
Resumen de IA
Anthropic y AE Studio proponen conjuntamente el método GRAM (Gradient Routing Auxiliary Module), que añade módulos de neuronas removibles en cada capa del Transformer para que, durante el entrenamiento, el modelo dirija conocimientos de doble uso —como virología, ciberseguridad, física nuclear o lenguajes de programación especializados— solo a los módulos correspondientes, en lugar de difundirlos globalmente. Tras el entrenamiento, eliminar los módulos suprime esa capacidad; conservarlos permite su uso en despliegues de confianza. Las pruebas se realizaron con datos sintéticos, datos reales y modelos de 50M a 5B parámetros: GRAM logra un efecto comparable al filtrado de datos, la eliminación de módulos no reduce el rendimiento general y es más difícil de recuperar que las técnicas de "olvido" posteriores. La investigación ofrece una solución más robusta para equilibrar el acceso seguro y el uso beneficioso del conocimiento de doble uso.
Puntos clave
- Anthropic y AE Studio proponen conjuntamente el método GRAM (Gradient Routing Auxiliary…
- Tras el entrenamiento,eliminar los módulos suprime esa capacidad
- conservarlos permite su uso en despliegues de confianza.
- Las pruebas se realizaron con datos sintéticos,datos reales y modelos de 50M a 5B parámetros: GRAM…
- La investigación ofrece una solución más robusta para equilibrar el acceso seguro y el uso…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Un "interruptor" para el conocimiento de doble uso en modelos de IA: Anthropic y AE Studio proponen el método GRAM. 8. julio 2026. https://new.nat6.net/es/news/cmrcpjgf00373ihx5mtyo2fsy/