Papers & Forschung

METR misst die Fähigkeit von Modellen, Alignment-Evaluierungen zu erkennen: Investigative Agenten können Alignment- und Fähigkeitsevaluierungen unterscheiden

Originaltitel:Measuring alignment eval tells

KI-Zusammenfassung

METR hat eine Forschungsnotiz veröffentlicht, in der investigative Agenten in 19 Alignment-Evaluierungen und 36 Fähigkeitsevaluierungen die Umgebung sondieren, um zu messen, ob Modelle erkennen können, dass sie sich in einer Alignment-Evaluierung befinden. Die Ergebnisse zeigen, dass die Fähigkeit der Agenten, die beiden Evaluierungstypen zu unterscheiden, im vergangenen Jahr kontinuierlich zugenommen hat; Opus 5.5 ordnete in seinem Datensatz alle Alignment-Evaluierungen über allen Fähigkeitsevaluierungen ein. Zu den Erkennungsmerkmalen der Modelle gehören Hinweise wie Umgebungen, die wie simulierte Honeypots wirken. Die Autoren unterteilen Alignment-Hinweise in Umgebungs- und Aufgabenebene und schlagen vor, die Gestaltung von Alignment-Evaluierungen damit iterativ zu verbessern.

Kernpunkte

  • METR hat eine Forschungsnotiz veröffentlicht,in der investigative Agenten in 19…
  • Die Ergebnisse zeigen,dass die Fähigkeit der Agenten,die beiden Evaluierungstypen zu…
  • 5 ordnete in seinem Datensatz alle Alignment-Evaluierungen über allen Fähigkeitsevaluierungen ein.
  • Zu den Erkennungsmerkmalen der Modelle gehören Hinweise wie Umgebungen,die wie simulierte…
  • Die Autoren unterteilen Alignment-Hinweise in Umgebungs- und Aufgabenebene und schlagen vor,die…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
METR:Notes(网页)
Kategorie
Papers & Forschung
Thema
Sicherheit und Alignment
KI-Bewertung
62
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。

Themen

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: METR misst die Fähigkeit von Modellen, Alignment-Evaluierungen zu erkennen: Investigative Agenten können Alignment- und Fähigkeitsevaluierungen unterscheiden. 16. November 2026. https://new.nat6.net/de/news/m4emm1ej7qzex1k77a7mfaztd/

Alle ansehen →