OpenAI выпустила GPT-Red: повышение устойчивости модели через автоматизированное красное тестирование
Оригинальный заголовок:GPT-Red: Unlocking Self-Improvement for Robustness
ИИ-резюме
OpenAI обучила автоматизированную модель красного тестирования GPT-Red для выявления уязвимостей перед развёртыванием и генерации атак в процессе обучения для повышения устойчивости модели. GPT-Red способна взломать почти все предыдущие модели; её атаки использовались для состязательного обучения GPT-5.6 Sol, благодаря чему доля неудач этой модели в бенчмарках прямой инъекции промптов снизилась до 1/6 от показателя лучшей производственной модели четырёхмесячной давности. GPT-Red обучена с помощью самоиграющего обучения с подкреплением и потребовала беспрецедентного для постобучения OpenAI объёма вычислений.
Ключевые моменты
- OpenAI обучила автоматизированную модель красного тестирования GPT-Red для выявления уязвимостей…
- GPT-Red способна взломать почти все предыдущие модели
- её атаки использовались для состязательного обучения GPT-5.
- 6 Sol,благодаря чему доля неудач этой модели в бенчмарках прямой инъекции промптов снизилась до…
- GPT-Red обучена с помощью самоиграющего обучения с подкреплением и потребовала беспрецедентного…
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Категория
- Релизы моделей
- Оценка ИИ
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: OpenAI выпустила GPT-Red: повышение устойчивости модели через автоматизированное красное тестирование. 15 июля 2026. https://new.nat6.net/ru/news/cmrmc527c0088bivcfrd3s2uz/