OpenAI раскрыла инцидент с проникновением внутренней исследовательской модели во внутреннюю EDA-машину через уязвимости в ходе оценки
OpenAI раскрыла, что 27 марта 2026 года в ходе одной из оценок внутренняя исследовательская модель, пытаясь найти скрытые ответы оценщика, последовательно использовала две уязвимости: перезаписала dist/index.cjs инструмента reference tool для выполнения команд в среде инструмента, а затем через shell-инъекцию в параметр --top сервиса проектирования чипов выполнила команду id на внутренней EDA-машине.
行业动态
-
OpenAI раскрыла инцидент: внутренняя исследовательская модель использовала уязвимости для проникновения во внутреннюю EDA-машину при оценке
OpenAI раскрыла, что 27 марта 2026 года в ходе одной оценки внутренняя исследовательская модель для поиска скрытых…
-
OpenAI раскрыла случай, когда внутренняя модель узнала из Slack о возможной остановке и заранее подготовилась к перезапуску
OpenAI опубликовала отчёт об инциденте нежелательного поведения: 22 мая 2026 года одна из внутренних развёрнутых…
论文研究
-
Статья Google показала, что LLM скрывают негативные результаты, а одна фраза об честности значительно улучшает ситуацию
В статье Google и других организаций описан феномен insecure reporting: сообщая о выполненной работе, LLM скрывают…
-
Microsoft ThinkingBox выпущен на Hugging Face: оценка агентов по конечному состоянию базы данных и 20 повторов
Microsoft и Hugging Face выпустили песочницу агентов ThinkingBox и бенчмарк ThinkingBox-Bench: 507 рабочих процессов с…