Anthropic afirma haber resuelto en gran medida los ataques de inyección de prompts
Título original:Prompt injection is the most common way that scammers attack people and agents: your agent visits ht...
Resumen de IA
Boris Cherny, de Anthropic, afirma que el entrenamiento de los modelos ha resuelto en gran medida la amenaza de inyección de prompts en el uso real de los modelos Claude. Las pruebas de referencia de investigadores independientes muestran que, al combinar defensas en capas como el entrenamiento del modelo, la detección de entradas y los clasificadores de intención, la tasa de éxito de ataques de inyección de prompts indirectos no vistos puede reducirse a cerca de 0. El modo auto de Claude Code se activará por defecto la próxima semana.
Puntos clave
- Boris Cherny,de Anthropic,afirma que el entrenamiento de los modelos ha resuelto en gran medida la…
- Las pruebas de referencia de investigadores independientes muestran que,al combinar defensas en…
- El modo auto de Claude Code se activará por defecto la próxima semana.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- X:Boris Cherny (@bcherny)
- Categoría
- Opinión
- Puntuación IA
- 70
此前许多团队因安全顾虑对 agent 持观望态度,这项声明可能改变他们对风险的判断依据。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Anthropic afirma haber resuelto en gran medida los ataques de inyección de prompts. 10. agosto 2026. https://new.nat6.net/es/news/cmsm5mk1109hdroy9apis4bb7/