Ginagamit ng OpenAI ang AI para atakihin ang sariling AI: 84% tagumpay ng GPT-Red, lampas sa tao
Orihinal na pamagat:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
AI summary
Sinanay ng OpenAI ang internal AI model na GPT-Red, na awtomatikong nag-simulate ng prompt injection at iba pang pag-atake sa self-play reinforcement learning, na may 84% tagumpay sa test scenarios kumpara sa 13% lamang ng human red team. Direktang ginamit sa pagsasanay ang mga natuklasan ng GPT-Red, na nagpababa sa bilang ng pagkabigo ng GPT-5.6 Sol sa direct prompt injection nang anim na beses kumpara sa pinakamahusay na modelo apat na buwan ang nakalipas, nang hindi naapektuhan ang pangkalahatang performance. Humigit-kumulang 3.8% ng "mas malakas" na prompt injection ang nakakalusot pa rin; hindi pa bukas sa publiko ang GPT-Red.
Mahahalagang impormasyon
- Sinanay ng OpenAI ang internal AI model na GPT-Red,na awtomatikong nag-simulate ng prompt…
- Direktang ginamit sa pagsasanay ang mga natuklasan ng GPT-Red,na nagpababa sa bilang ng pagkabigo…
- 6 Sol sa direct prompt injection nang anim na beses kumpara sa pinakamahusay na modelo apat na…
- Humigit-kumulang 3.
- 8% ng "mas malakas" na prompt injection ang nakakalusot pa rin
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- The Decoder:AI News(RSS)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 71
OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Ginagamit ng OpenAI ang AI para atakihin ang sariling AI: 84% tagumpay ng GPT-Red, lampas sa tao. 16 Hulyo 2026. https://new.nat6.net/fil/news/cmrmi4f4x01ilbiul55xb25fm/