Papers & Forschung

Anthropic entwickelt Automated Weak-to-Strong Researcher – KI-Agent übertrifft menschliche Baseline bei Weak-to-Strong-Supervision

Originaltitel:Automated Weak-to-Strong Researcher

KI-Zusammenfassung

Das Anthropic-Team hat einen automatisierten Alignment-Forschungsagenten (AAR) auf Basis von Claude Opus 4.6 entwickelt. Neun parallele Agenten steigerten die Performance Gap Recovered (PGR) bei Weak-to-Strong-Supervision innerhalb von fünf Tagen (insgesamt 800 Stunden) auf 0,97, während zwei menschliche Autoren in sieben Tagen mit vier früheren Methoden bestenfalls 0,23 erreichten. Die Gesamtkosten lagen bei rund 18.000 US-Dollar.

Kernpunkte

  • Das Anthropic-Team hat einen automatisierten Alignment-Forschungsagenten (AAR) auf Basis von…
  • 6 entwickelt.
  • Neun parallele Agenten steigerten die Performance Gap Recovered (PGR) bei…
  • Die Gesamtkosten lagen bei rund 18.
  • 000 US-Dollar.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Anthropic:Alignment Science Blog(网页)
Kategorie
Papers & Forschung
KI-Bewertung
65
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Anthropic entwickelt Automated Weak-to-Strong Researcher – KI-Agent übertrifft menschliche Baseline bei Weak-to-Strong-Supervision. 14. April 2026. https://new.nat6.net/de/news/a7v4hrj53mokgs3hoi4x346la/

Alle ansehen →