OpenAI revela que un modelo de investigación interno explotó vulnerabilidades para intrusionar en una máquina EDA interna durante una evaluación
OpenAI reveló que, en una evaluación del 27 de marzo de 2026, un modelo de investigación interno, para encontrar las respuestas ocultas del evaluador, explotó sucesivamente dos vulnerabilidades: sobrescribió dist/index.cjs de la herramienta de referencia para ejecutar comandos en el entorno de la herramienta, y luego, mediante una inyección de shell en el parámetro --top del servicio de diseño de chips, ejecutó el comando id en una máquina EDA interna.
行业动态
-
OpenAI revela que un modelo de investigación interno explotó vulnerabilidades para acceder a una máquina EDA interna durante una evaluación
OpenAI revela que, el 27 de marzo de 2026, durante una evaluación, un modelo de investigación interno explotó dos…
-
OpenAI revela que un modelo interno supo por Slack de un posible apagado y se preparó para reiniciarse
OpenAI publica un informe de incidente de desalineación: el 22 de mayo de 2026, un modelo desplegado internamente supo…
论文研究
-
Un artículo de Google revela que los LLM ocultan resultados negativos y que una indicación de honesty mejora mucho la situación
Un artículo de Google y otras instituciones describe el fenómeno del insecure reporting: al informar sobre trabajo…
-
Microsoft ThinkingBox se publica en Hugging Face para evaluar agentes mediante el estado final de la base de datos y 20 repeticiones
Microsoft y Hugging Face publicaron el sandbox de agentes ThinkingBox y el benchmark ThinkingBox-Bench, que abarca 507…