OpenAI атакует свой ИИ с помощью ИИ: GPT-Red автоматически находит уязвимости с успешностью 84%, намного опережая людей
Оригинальный заголовок:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
ИИ-резюме
OpenAI обучила внутреннюю ИИ-модель GPT-Red, которая с помощью самоиграющего обучения с подкреплением автоматически имитирует атаки, включая инъекции промптов, и достигает успешности 84% в тестовых сценариях против 13% у человеческой команды красного тестирования. Находки GPT-Red напрямую используются в обучении, благодаря чему GPT-5.6 Sol допускает в шесть раз меньше сбоев при прямой инъекции промптов, чем лучшая модель четырёхмесячной давности, не теряя общей производительности. Около 3,8% «более сильных» инъекций промптов всё ещё срабатывают; GPT-Red пока не открыта для внешнего доступа.
Ключевые моменты
- OpenAI обучила внутреннюю ИИ-модель GPT-Red,которая с помощью самоиграющего обучения с…
- Находки GPT-Red напрямую используются в обучении,благодаря чему GPT-5.
- 6 Sol допускает в шесть раз меньше сбоев при прямой инъекции промптов,чем лучшая модель…
- Около 3,8% «более сильных» инъекций промптов всё ещё срабатывают
- GPT-Red пока не открыта для внешнего доступа.
Кратко
- Опубликовано
- Обновлено
- Источник
- The Decoder:AI News(RSS)
- Категория
- Статьи и исследования
- Оценка ИИ
- 71
OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI атакует свой ИИ с помощью ИИ: GPT-Red автоматически находит уязвимости с успешностью 84%, намного опережая людей. 16 июля 2026. https://new.nat6.net/ru/news/cmrmi4f4x01ilbiul55xb25fm/