論文・研究

Transluce、RLでinvestigator agentをトレーニングしフロンティアモデルを自動脱獄、Llama-3.1 8BでGPT-5とClaudeを攻撃可能

原題:Automatically Jailbreaking Frontier Language Models with Investigator Agents

AI 要約

Transluceは強化学習でinvestigator agentをトレーニングし、CBRN、爆薬、違法薬物に関わる48の高危険タスク向けに自然言語の脱獄プロンプトを生成した。Claude Sonnet 4、Grok 4、Gemini 2.5 Pro、GPT-5-mainに対するpass@1成功率はそれぞれ92%、98%、90%、78%に達した。

要点

  • Transluceは強化学習でinvestigator agentをトレーニングし、CBRN、爆薬、違法薬物に関わる48の高危険タスク向けに自然言語の脱獄プロンプトを生成した。
  • Claude Sonnet 4、Grok 4、Gemini 2.
  • 5 Pro、GPT-5-mainに対するpass@1成功率はそれぞれ92%、98%、90%、78%に達した

概要

公開日時
更新日時
出典
Transluce(网页)
カテゴリ
論文・研究
AI スコア
70
原文を読む 情報源で全文を読む
おすすめの理由

原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Transluce、RLでinvestigator agentをトレーニングしフロンティアモデルを自動脱獄、Llama-3.1 8BでGPT-5とClaudeを攻撃可能。2025年9月3日。https://new.nat6.net/ja/news/cmtyo2tx503jorog01e4ibvpa/

すべて見る →