Mga Papel at Pananaliksik

Ginamit ng OpenAI ang automated red teaming training para mapahusay ang ambiguity robustness ng GPT-6 Astra at Sol sa high-risk na mga larangan

Orihinal na pamagat:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

AI summary

Ipinaliwanag ng research team ng OpenAI kung paano ginagamit ang automated red teaming para mapahusay ang ambiguity robustness ng modelo sa high-risk dual-use na mga larangan tulad ng cyber at biolohiya, sa pamamagitan ng pagpapalawak ng test-time compute ng attacker model para paulit-ulit na maghanap ng jailbreak, at hinihiling na magtagumpay ang pag-atake sa maraming paulit-ulit na pagsubok (worst@n), upang makabuo ng maaasahang adversarial training data para sa RL training.

Mahahalagang impormasyon

  • Ipinaliwanag ng research team ng OpenAI kung paano ginagamit ang automated red teaming para…
  • sa pamamagitan ng pagpapalawak ng test-time compute ng attacker model para paulit-ulit na maghanap…
  • at hinihiling na magtagumpay ang pag-atake sa maraming paulit-ulit na pagsubok (worst@n),upang…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
OpenAI:Alignment 研究博客(RSS)
Kategorya
Mga Papel at Pananaliksik
Paksa
OpenAI / ChatGPTKaligtasan at alignment
AI na marka
62
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。

Mga kaugnay na paksa

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Ginamit ng OpenAI ang automated red teaming training para mapahusay ang ambiguity robustness ng GPT-6 Astra at Sol sa high-risk na mga larangan. 12 Nobyembre 2026. https://new.nat6.net/fil/news/yg97h3u5vthadivuv5po5f0aw/

Tingnan lahat →