Статьи и исследования

OpenAI атакует свой ИИ с помощью ИИ: GPT-Red автоматически находит уязвимости с успешностью 84%, намного опережая людей

Оригинальный заголовок:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did

ИИ-резюме

OpenAI обучила внутреннюю ИИ-модель GPT-Red, которая с помощью самоиграющего обучения с подкреплением автоматически имитирует атаки, включая инъекции промптов, и достигает успешности 84% в тестовых сценариях против 13% у человеческой команды красного тестирования. Находки GPT-Red напрямую используются в обучении, благодаря чему GPT-5.6 Sol допускает в шесть раз меньше сбоев при прямой инъекции промптов, чем лучшая модель четырёхмесячной давности, не теряя общей производительности. Около 3,8% «более сильных» инъекций промптов всё ещё срабатывают; GPT-Red пока не открыта для внешнего доступа.

Ключевые моменты

  • OpenAI обучила внутреннюю ИИ-модель GPT-Red,которая с помощью самоиграющего обучения с…
  • Находки GPT-Red напрямую используются в обучении,благодаря чему GPT-5.
  • 6 Sol допускает в шесть раз меньше сбоев при прямой инъекции промптов,чем лучшая модель…
  • Около 3,8% «более сильных» инъекций промптов всё ещё срабатывают
  • GPT-Red пока не открыта для внешнего доступа.

Кратко

Опубликовано
Обновлено
Источник
The Decoder:AI News(RSS)
Категория
Статьи и исследования
Оценка ИИ
71
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI атакует свой ИИ с помощью ИИ: GPT-Red автоматически находит уязвимости с успешностью 84%, намного опережая людей. 16 июля 2026. https://new.nat6.net/ru/news/cmrmi4f4x01ilbiul55xb25fm/

Смотреть все →