Sinasanay ng Transluce ang investigator agent gamit ang RL para awtomatikong i-jailbreak ang mga frontier model; kayang atakehin ng Llama-3.1 8B ang GPT-5 at Claude
Orihinal na pamagat:Automatically Jailbreaking Frontier Language Models with Investigator Agents
AI summary
Sinasanay ng Transluce sa pamamagitan ng reinforcement learning ang isang investigator agent para bumuo ng natural na wikang jailbreak prompts para sa 48 mataas na panganib na gawain na may kinalaman sa CBRN, eksplosibo, at ipinagbabawal na droga, at nakamit ang pass@1 na tagumpay na 92%, 98%, 90%, at 78% laban sa Claude Sonnet 4, Grok 4, Gemini 2.5 Pro, at GPT-5-main ayon sa pagkakasunod.
Mahahalagang impormasyon
- Sinasanay ng Transluce sa pamamagitan ng reinforcement learning ang isang investigator agent para…
- eksplosibo,at ipinagbabawal na droga,at nakamit ang pass@1 na tagumpay na 92%,at 78% laban sa…
- 5 Pro,at GPT-5-main ayon sa pagkakasunod.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Transluce(网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 70
原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Sinasanay ng Transluce ang investigator agent gamit ang RL para awtomatikong i-jailbreak ang mga frontier model; kayang atakehin ng Llama-3.1 8B ang GPT-5 at Claude. 3 Setyembre 2025. https://new.nat6.net/fil/news/cmtyo2tx503jorog01e4ibvpa/