Inilabas ng OpenAI ang GPT-Red: pinapahusay ang robustness ng modelo sa automated red teaming
Orihinal na pamagat:GPT-Red: Unlocking Self-Improvement for Robustness
AI summary
Sinanan ng OpenAI ang automated red team model na GPT-Red upang makahanap ng kahinaan bago ang deployment at bumuo ng mga pag-atake sa pagsasanay upang mapahusay ang robustness ng modelo. Kayang talunin ng GPT-Red ang halos lahat ng naunang modelo; ginamit ang mga pag-atake nito sa adversarial training ng GPT-5.6 Sol, na nagpababa sa failure rate nito sa direct prompt injection benchmark sa 1/6 ng pinakamahusay na production model apat na buwan ang nakalipas. Sinanay ang GPT-Red sa self-play reinforcement learning gamit ang compute scale na hindi pa nagagawa sa post-training ng OpenAI.
Mahahalagang impormasyon
- Sinanan ng OpenAI ang automated red team model na GPT-Red upang makahanap ng kahinaan bago ang…
- Kayang talunin ng GPT-Red ang halos lahat ng naunang modelo
- ginamit ang mga pag-atake nito sa adversarial training ng GPT-5.
- 6 Sol,na nagpababa sa failure rate nito sa direct prompt injection benchmark sa 1/6 ng…
- Sinanay ang GPT-Red sa self-play reinforcement learning gamit ang compute scale na hindi pa…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Inilabas ng OpenAI ang GPT-Red: pinapahusay ang robustness ng modelo sa automated red teaming. 15 Hulyo 2026. https://new.nat6.net/fil/news/cmrmc527c0088bivcfrd3s2uz/