METR и Redwood Research провели ред-тиминг внутренней системы мониторинга агентов OpenAI и нашли несколько уязвимостей
Оригинальный заголовок:Red-Teaming OpenAI's Internal Agent Monitoring Systems
ИИ-резюме
METR и Redwood Research направили по одному сотруднику и с 21 июля по 11 августа провели трёхнедельное стресс-тестирование внутренней системы мониторинга несоответствия OpenAI с высокими привилегиями, по итогам которого подготовили 61-страничный внутренний отчёт.
Кратко
- Опубликовано
- Обновлено
- Источник
- Redwood Research:Blog(RSS)
- Категория
- Статьи и исследования
- Оценка ИИ
- 78
作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。
Темы
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: METR и Redwood Research провели ред-тиминг внутренней системы мониторинга агентов OpenAI и нашли несколько уязвимостей. 22 октября 2026. https://new.nat6.net/ru/news/fcw2s1pdclkgm5kmg2qwginp7/