Anthropic refuerza sus defensas contra los ataques de destilación y reduce entre 10 y 100 veces la extracción de tokens de razonamiento
Resumen de IA
Anthropic publicó una entrada de blog en la que presenta sus nuevos métodos de defensa contra los ataques de destilación dirigidos a Claude, como limitar el flujo de contenido de razonamiento, usar clasificadores de dos etapas para interceptar intentos de extracción y aplicar restricciones más estrictas a las cuentas que lo intentan repetidamente. Las primeras pruebas indican que estos métodos reducen en torno al 90% al 99% los datos de razonamiento obtenidos por quienes practican la destilación, y que el número de tokens de razonamiento extraídos en la plataforma cae entre 10 y 100 veces. Anthropic también señala que estas medidas implican contrapartidas, como la necesidad de que algunos desarrolladores actualicen sus integraciones y una tasa de falsos positivos de los clasificadores inferior al 0,1%.
Puntos clave
- Anthropic publicó una entrada de blog en la que presenta sus nuevos métodos de defensa contra los…
- Las primeras pruebas indican que estos métodos reducen en torno al 90% al 99% los datos de…
- Anthropic también señala que estas medidas implican contrapartidas,como la necesidad de que…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 77
Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Anthropic refuerza sus defensas contra los ataques de destilación y reduce entre 10 y 100 veces la extracción de tokens de razonamiento. 12. octubre 2026. https://new.nat6.net/es/news/lwchujhujmc1tdor61dn39irl/