Papers & Forschung

Transluce trainiert Investigator-Agent mit RL zum automatischen Jailbreak von Frontier-Modellen; Llama-3.1 8B greift GPT-5 und Claude an

Originaltitel:Automatically Jailbreaking Frontier Language Models with Investigator Agents

KI-Zusammenfassung

Transluce trainierte per Reinforcement Learning einen Investigator-Agent, der für 48 hochriskante Aufgaben aus den Bereichen CBRN, Sprengstoffe und verbotene Drogen natürlichsprachliche Jailbreak-Prompts erzeugt; die pass@1-Erfolgsraten gegen Claude Sonnet 4, Grok 4, Gemini 2.5 Pro und GPT-5-main lagen bei 92 %, 98 %, 90 % bzw. 78 %.

Kernpunkte

  • Transluce trainierte per Reinforcement Learning einen Investigator-Agent,der für 48 hochriskante…
  • die pass@1-Erfolgsraten gegen Claude Sonnet 4,Grok 4,Gemini 2.
  • 5 Pro und GPT-5-main lagen bei 92 %,98 %,90 % bzw.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Transluce(网页)
Kategorie
Papers & Forschung
KI-Bewertung
70
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Transluce trainiert Investigator-Agent mit RL zum automatischen Jailbreak von Frontier-Modellen; Llama-3.1 8B greift GPT-5 und Claude an. 3. September 2025. https://new.nat6.net/de/news/cmtyo2tx503jorog01e4ibvpa/

Alle ansehen →