OpenAI、AIで自社AIを攻撃:GPT-Redがセキュリティ脆弱性を自動発見、成功率84%で人間を大きく上回る
原題:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
AI 要約
OpenAIは内部AIモデルGPT-Redをトレーニングし、自己対戦強化学習を通じてプロンプトインジェクションなどの攻撃を自動的にシミュレーションした。テスト場面での成功率は84%に達し、人間のレッドチームはわずか13%だった。GPT-Redの発見は直接トレーニングに活用され、GPT-5.6 Solの直接プロンプトインジェクションにおける故障回数を4カ月前の最良モデルより6倍減少させ、汎用性能にも影響を与えなかった。約3.8%の「より強力な」プロンプトインジェクションは依然として成功し、GPT-Redは現在外部に公開されていない。
要点
- OpenAIは内部AIモデルGPT-Redをトレーニングし、自己対戦強化学習を通じてプロンプトインジェクションなどの攻撃を自動的にシミュレーションした。
- テスト場面での成功率は84%に達し、人間のレッドチームはわずか13%だった。
- GPT-Redの発見は直接トレーニングに活用され、GPT-5.
- 6 Solの直接プロンプトインジェクションにおける故障回数を4カ月前の最良モデルより6倍減少させ、汎用性能にも影響を与えなかった。
- 8%の「より強力な」プロンプトインジェクションは依然として成功し、GPT-Redは現在外部に公開されていない
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 71
おすすめの理由
OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:OpenAI、AIで自社AIを攻撃:GPT-Redがセキュリティ脆弱性を自動発見、成功率84%で人間を大きく上回る。2026年7月16日。https://new.nat6.net/ja/news/cmrmi4f4x01ilbiul55xb25fm/