Mga Papel at Pananaliksik

Sinasanay ng Transluce ang investigator agent gamit ang RL para awtomatikong i-jailbreak ang mga frontier model; kayang atakehin ng Llama-3.1 8B ang GPT-5 at Claude

Orihinal na pamagat:Automatically Jailbreaking Frontier Language Models with Investigator Agents

AI summary

Sinasanay ng Transluce sa pamamagitan ng reinforcement learning ang isang investigator agent para bumuo ng natural na wikang jailbreak prompts para sa 48 mataas na panganib na gawain na may kinalaman sa CBRN, eksplosibo, at ipinagbabawal na droga, at nakamit ang pass@1 na tagumpay na 92%, 98%, 90%, at 78% laban sa Claude Sonnet 4, Grok 4, Gemini 2.5 Pro, at GPT-5-main ayon sa pagkakasunod.

Mahahalagang impormasyon

  • Sinasanay ng Transluce sa pamamagitan ng reinforcement learning ang isang investigator agent para…
  • eksplosibo,at ipinagbabawal na droga,at nakamit ang pass@1 na tagumpay na 92%,at 78% laban sa…
  • 5 Pro,at GPT-5-main ayon sa pagkakasunod.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Transluce(网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
70
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Sinasanay ng Transluce ang investigator agent gamit ang RL para awtomatikong i-jailbreak ang mga frontier model; kayang atakehin ng Llama-3.1 8B ang GPT-5 at Claude. 3 Setyembre 2025. https://new.nat6.net/fil/news/cmtyo2tx503jorog01e4ibvpa/

Tingnan lahat →