Artículos e investigación

METR y Redwood Research someten a red team el sistema interno de monitoreo de agentes de OpenAI y hallan varias vulnerabilidades

Título original:Red-Teaming OpenAI's Internal Agent Monitoring Systems

Resumen de IA

METR y Redwood Research asignaron cada uno un empleado para llevar a cabo, del 21 de julio al 11 de agosto, una prueba de estrés piloto de tres semanas con altos privilegios sobre el sistema interno de monitoreo de desalineación de OpenAI, que produjo un informe interno de 61 páginas.

Puntos clave

  • METR y Redwood Research asignaron cada uno un empleado para llevar a cabo
  • del 21 de julio al 11 de agosto,una prueba de estrés piloto de tres semanas con altos privilegios…
  • que produjo un informe interno de 61 páginas.

Resumen rápido

Publicado
Actualizado
Fuente
Redwood Research:Blog(RSS)
Categoría
Artículos e investigación
Tema
AgenteOpenAI / ChatGPTSeguridad y alineación
Puntuación IA
78
Leer el original Leer el artículo completo en la fuente original
Por qué importa

作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

Temas

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: METR y Redwood Research someten a red team el sistema interno de monitoreo de agentes de OpenAI y hallan varias vulnerabilidades. 22. octubre 2026. https://new.nat6.net/es/news/fcw2s1pdclkgm5kmg2qwginp7/

Ver todo →