Mga Papel at Pananaliksik

Ginagamit ng OpenAI ang AI para atakihin ang sariling AI: 84% tagumpay ng GPT-Red, lampas sa tao

Orihinal na pamagat:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did

AI summary

Sinanay ng OpenAI ang internal AI model na GPT-Red, na awtomatikong nag-simulate ng prompt injection at iba pang pag-atake sa self-play reinforcement learning, na may 84% tagumpay sa test scenarios kumpara sa 13% lamang ng human red team. Direktang ginamit sa pagsasanay ang mga natuklasan ng GPT-Red, na nagpababa sa bilang ng pagkabigo ng GPT-5.6 Sol sa direct prompt injection nang anim na beses kumpara sa pinakamahusay na modelo apat na buwan ang nakalipas, nang hindi naapektuhan ang pangkalahatang performance. Humigit-kumulang 3.8% ng "mas malakas" na prompt injection ang nakakalusot pa rin; hindi pa bukas sa publiko ang GPT-Red.

Mahahalagang impormasyon

  • Sinanay ng OpenAI ang internal AI model na GPT-Red,na awtomatikong nag-simulate ng prompt…
  • Direktang ginamit sa pagsasanay ang mga natuklasan ng GPT-Red,na nagpababa sa bilang ng pagkabigo…
  • 6 Sol sa direct prompt injection nang anim na beses kumpara sa pinakamahusay na modelo apat na…
  • Humigit-kumulang 3.
  • 8% ng "mas malakas" na prompt injection ang nakakalusot pa rin

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
The Decoder:AI News(RSS)
Kategorya
Mga Papel at Pananaliksik
AI na marka
71
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Ginagamit ng OpenAI ang AI para atakihin ang sariling AI: 84% tagumpay ng GPT-Red, lampas sa tao. 16 Hulyo 2026. https://new.nat6.net/fil/news/cmrmi4f4x01ilbiul55xb25fm/

Tingnan lahat →