Paglabas ng modelo

Inilabas ng OpenAI ang GPT-Red: pinapahusay ang robustness ng modelo sa automated red teaming

Orihinal na pamagat:GPT-Red: Unlocking Self-Improvement for Robustness

AI summary

Sinanan ng OpenAI ang automated red team model na GPT-Red upang makahanap ng kahinaan bago ang deployment at bumuo ng mga pag-atake sa pagsasanay upang mapahusay ang robustness ng modelo. Kayang talunin ng GPT-Red ang halos lahat ng naunang modelo; ginamit ang mga pag-atake nito sa adversarial training ng GPT-5.6 Sol, na nagpababa sa failure rate nito sa direct prompt injection benchmark sa 1/6 ng pinakamahusay na production model apat na buwan ang nakalipas. Sinanay ang GPT-Red sa self-play reinforcement learning gamit ang compute scale na hindi pa nagagawa sa post-training ng OpenAI.

Mahahalagang impormasyon

  • Sinanan ng OpenAI ang automated red team model na GPT-Red upang makahanap ng kahinaan bago ang…
  • Kayang talunin ng GPT-Red ang halos lahat ng naunang modelo
  • ginamit ang mga pag-atake nito sa adversarial training ng GPT-5.
  • 6 Sol,na nagpababa sa failure rate nito sa direct prompt injection benchmark sa 1/6 ng…
  • Sinanay ang GPT-Red sa self-play reinforcement learning gamit ang compute scale na hindi pa…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategorya
Paglabas ng modelo
AI na marka
67
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inilabas ng OpenAI ang GPT-Red: pinapahusay ang robustness ng modelo sa automated red teaming. 15 Hulyo 2026. https://new.nat6.net/fil/news/cmrmc527c0088bivcfrd3s2uz/

Tingnan lahat →