Релизы моделей

OpenAI выпустила GPT-Red: повышение устойчивости модели через автоматизированное красное тестирование

Оригинальный заголовок:GPT-Red: Unlocking Self-Improvement for Robustness

ИИ-резюме

OpenAI обучила автоматизированную модель красного тестирования GPT-Red для выявления уязвимостей перед развёртыванием и генерации атак в процессе обучения для повышения устойчивости модели. GPT-Red способна взломать почти все предыдущие модели; её атаки использовались для состязательного обучения GPT-5.6 Sol, благодаря чему доля неудач этой модели в бенчмарках прямой инъекции промптов снизилась до 1/6 от показателя лучшей производственной модели четырёхмесячной давности. GPT-Red обучена с помощью самоиграющего обучения с подкреплением и потребовала беспрецедентного для постобучения OpenAI объёма вычислений.

Ключевые моменты

  • OpenAI обучила автоматизированную модель красного тестирования GPT-Red для выявления уязвимостей…
  • GPT-Red способна взломать почти все предыдущие модели
  • её атаки использовались для состязательного обучения GPT-5.
  • 6 Sol,благодаря чему доля неудач этой модели в бенчмарках прямой инъекции промптов снизилась до…
  • GPT-Red обучена с помощью самоиграющего обучения с подкреплением и потребовала беспрецедентного…

Кратко

Опубликовано
Обновлено
Источник
OpenAI:官网动态(RSS · 排除企业/客户案例)
Категория
Релизы моделей
Оценка ИИ
67
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: OpenAI выпустила GPT-Red: повышение устойчивости модели через автоматизированное красное тестирование. 15 июля 2026. https://new.nat6.net/ru/news/cmrmc527c0088bivcfrd3s2uz/

Смотреть все →