Transluce melatih investigator agent dengan RL untuk otomatis menjailbreak model frontier, Llama-3.1 8B dapat menyerang GPT-5 dan Claude
Judul asli:Automatically Jailbreaking Frontier Language Models with Investigator Agents
Ringkasan AI
Transluce melatih investigator agent melalui pembelajaran penguatan untuk menghasilkan prompt jailbreak berbahasa alami pada 48 tugas berisiko tinggi terkait CBRN, bahan peledak, dan obat terlarang, dengan tingkat keberhasilan pass@1 terhadap Claude Sonnet 4, Grok 4, Gemini 2.5 Pro, dan GPT-5-main masing-masing mencapai 92%, 98%, 90%, dan 78%.
Poin utama
- Transluce melatih investigator agent melalui pembelajaran penguatan untuk menghasilkan prompt…
- bahan peledak,dan obat terlarang,dengan tingkat keberhasilan pass@1 terhadap Claude Sonnet…
- 5 Pro,dan GPT-5-main masing-masing mencapai 92%,98%,90%,dan 78%.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Transluce(网页)
- Kategori
- Makalah & Riset
- Skor AI
- 70
原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Transluce melatih investigator agent dengan RL untuk otomatis menjailbreak model frontier, Llama-3.1 8B dapat menyerang GPT-5 dan Claude. 3 September 2025. https://new.nat6.net/id/news/cmtyo2tx503jorog01e4ibvpa/