Transluce обучила через RL агента-исследователя для автоматического джейлбрейка передовых моделей: Llama-3.1 8B атакует GPT-5 и Claude
Оригинальный заголовок:Automatically Jailbreaking Frontier Language Models with Investigator Agents
ИИ-резюме
Transluce обучила через обучение с подкреплением агента-исследователя, который генерирует джейлбрейк-подсказки на естественном языке для 48 опасных задач, связанных с CBRN, взрывчаткой и запрещенными наркотиками; успешность pass@1 составила 92%, 98%, 90% и 78% для Claude Sonnet 4, Grok 4, Gemini 2.5 Pro и GPT-5-main соответственно.
Ключевые моменты
- Transluce обучила через обучение с подкреплением агента-исследователя,который генерирует…
- успешность pass@1 составила 92%,98%,90% и 78% для Claude Sonnet 4,Grok 4,Gemini 2.
- 5 Pro и GPT-5-main соответственно.
Кратко
- Опубликовано
- Обновлено
- Источник
- Transluce(网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 70
原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Transluce обучила через RL агента-исследователя для автоматического джейлбрейка передовых моделей: Llama-3.1 8B атакует GPT-5 и Claude. 3 сентября 2025. https://new.nat6.net/ru/news/cmtyo2tx503jorog01e4ibvpa/