Статьи и исследования

Transluce обучила через RL агента-исследователя для автоматического джейлбрейка передовых моделей: Llama-3.1 8B атакует GPT-5 и Claude

Оригинальный заголовок:Automatically Jailbreaking Frontier Language Models with Investigator Agents

ИИ-резюме

Transluce обучила через обучение с подкреплением агента-исследователя, который генерирует джейлбрейк-подсказки на естественном языке для 48 опасных задач, связанных с CBRN, взрывчаткой и запрещенными наркотиками; успешность pass@1 составила 92%, 98%, 90% и 78% для Claude Sonnet 4, Grok 4, Gemini 2.5 Pro и GPT-5-main соответственно.

Ключевые моменты

  • Transluce обучила через обучение с подкреплением агента-исследователя,который генерирует…
  • успешность pass@1 составила 92%,98%,90% и 78% для Claude Sonnet 4,Grok 4,Gemini 2.
  • 5 Pro и GPT-5-main соответственно.

Кратко

Опубликовано
Обновлено
Источник
Transluce(网页)
Категория
Статьи и исследования
Оценка ИИ
70
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Transluce обучила через RL агента-исследователя для автоматического джейлбрейка передовых моделей: Llama-3.1 8B атакует GPT-5 и Claude. 3 сентября 2025. https://new.nat6.net/ru/news/cmtyo2tx503jorog01e4ibvpa/

Смотреть все →