Transluce dùng RL huấn luyện investigator agent tự động jailbreak mô hình tiên tiến, Llama-3.1 8B có thể tấn công GPT-5 và Claude
Tiêu đề gốc:Automatically Jailbreaking Frontier Language Models with Investigator Agents
Tóm tắt AI
Transluce huấn luyện investigator agent bằng học tăng cường, tạo prompt jailbreak ngôn ngữ tự nhiên cho 48 tác vụ nguy hiểm liên quan CBRN, chất nổ và ma túy cấm, đạt tỷ lệ thành công pass@1 lần lượt 92%, 98%, 90% và 78% trên Claude Sonnet 4, Grok 4, Gemini 2.5 Pro và GPT-5-main.
Thông tin chính
- Transluce huấn luyện investigator agent bằng học tăng cường,tạo prompt jailbreak ngôn ngữ tự nhiên…
- chất nổ và ma túy cấm,đạt tỷ lệ thành công pass@1 lần lượt 92%,90% và 78% trên Claude Sonnet…
- 5 Pro và GPT-5-main.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- Transluce(网页)
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 70
原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Transluce dùng RL huấn luyện investigator agent tự động jailbreak mô hình tiên tiến, Llama-3.1 8B có thể tấn công GPT-5 và Claude. 3 tháng 9 2025. https://new.nat6.net/vi/news/cmtyo2tx503jorog01e4ibvpa/