Статьи и исследования

METR и Redwood Research провели ред-тиминг внутренней системы мониторинга агентов OpenAI и нашли несколько уязвимостей

Оригинальный заголовок:Red-Teaming OpenAI's Internal Agent Monitoring Systems

ИИ-резюме

METR и Redwood Research направили по одному сотруднику и с 21 июля по 11 августа провели трёхнедельное стресс-тестирование внутренней системы мониторинга несоответствия OpenAI с высокими привилегиями, по итогам которого подготовили 61-страничный внутренний отчёт.

Кратко

Опубликовано
Обновлено
Источник
Redwood Research:Blog(RSS)
Категория
Статьи и исследования
Тема
АгентыOpenAI / ChatGPTБезопасность и выравнивание
Оценка ИИ
78
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: METR и Redwood Research провели ред-тиминг внутренней системы мониторинга агентов OpenAI и нашли несколько уязвимостей. 22 октября 2026. https://new.nat6.net/ru/news/fcw2s1pdclkgm5kmg2qwginp7/

Смотреть все →