METR y Redwood Research someten a red team el sistema interno de monitoreo de agentes de OpenAI y hallan varias vulnerabilidades
Título original:Red-Teaming OpenAI's Internal Agent Monitoring Systems
Resumen de IA
METR y Redwood Research asignaron cada uno un empleado para llevar a cabo, del 21 de julio al 11 de agosto, una prueba de estrés piloto de tres semanas con altos privilegios sobre el sistema interno de monitoreo de desalineación de OpenAI, que produjo un informe interno de 61 páginas.
Puntos clave
- METR y Redwood Research asignaron cada uno un empleado para llevar a cabo
- del 21 de julio al 11 de agosto,una prueba de estrés piloto de tres semanas con altos privilegios…
- que produjo un informe interno de 61 páginas.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- Redwood Research:Blog(RSS)
- Categoría
- Artículos e investigación
- Puntuación IA
- 78
作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。
Temas
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: METR y Redwood Research someten a red team el sistema interno de monitoreo de agentes de OpenAI y hallan varias vulnerabilidades. 22. octubre 2026. https://new.nat6.net/es/news/fcw2s1pdclkgm5kmg2qwginp7/