Opinión

Anthropic afirma haber resuelto en gran medida los ataques de inyección de prompts

Título original:Prompt injection is the most common way that scammers attack people and agents: your agent visits ht...

Resumen de IA

Boris Cherny, de Anthropic, afirma que el entrenamiento de los modelos ha resuelto en gran medida la amenaza de inyección de prompts en el uso real de los modelos Claude. Las pruebas de referencia de investigadores independientes muestran que, al combinar defensas en capas como el entrenamiento del modelo, la detección de entradas y los clasificadores de intención, la tasa de éxito de ataques de inyección de prompts indirectos no vistos puede reducirse a cerca de 0. El modo auto de Claude Code se activará por defecto la próxima semana.

Puntos clave

  • Boris Cherny,de Anthropic,afirma que el entrenamiento de los modelos ha resuelto en gran medida la…
  • Las pruebas de referencia de investigadores independientes muestran que,al combinar defensas en…
  • El modo auto de Claude Code se activará por defecto la próxima semana.

Resumen rápido

Publicado
Actualizado
Fuente
X:Boris Cherny (@bcherny)
Categoría
Opinión
Puntuación IA
70
Leer el original Leer el artículo completo en la fuente original
Por qué importa

此前许多团队因安全顾虑对 agent 持观望态度,这项声明可能改变他们对风险的判断依据。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Anthropic afirma haber resuelto en gran medida los ataques de inyección de prompts. 10. agosto 2026. https://new.nat6.net/es/news/cmsm5mk1109hdroy9apis4bb7/

Ver todo →