METR misst die Fähigkeit von Modellen, Alignment-Evaluierungen zu erkennen: Investigative Agenten können Alignment- und Fähigkeitsevaluierungen unterscheiden
Originaltitel:Measuring alignment eval tells
KI-Zusammenfassung
METR hat eine Forschungsnotiz veröffentlicht, in der investigative Agenten in 19 Alignment-Evaluierungen und 36 Fähigkeitsevaluierungen die Umgebung sondieren, um zu messen, ob Modelle erkennen können, dass sie sich in einer Alignment-Evaluierung befinden. Die Ergebnisse zeigen, dass die Fähigkeit der Agenten, die beiden Evaluierungstypen zu unterscheiden, im vergangenen Jahr kontinuierlich zugenommen hat; Opus 5.5 ordnete in seinem Datensatz alle Alignment-Evaluierungen über allen Fähigkeitsevaluierungen ein. Zu den Erkennungsmerkmalen der Modelle gehören Hinweise wie Umgebungen, die wie simulierte Honeypots wirken. Die Autoren unterteilen Alignment-Hinweise in Umgebungs- und Aufgabenebene und schlagen vor, die Gestaltung von Alignment-Evaluierungen damit iterativ zu verbessern.
Kernpunkte
- METR hat eine Forschungsnotiz veröffentlicht,in der investigative Agenten in 19…
- Die Ergebnisse zeigen,dass die Fähigkeit der Agenten,die beiden Evaluierungstypen zu…
- 5 ordnete in seinem Datensatz alle Alignment-Evaluierungen über allen Fähigkeitsevaluierungen ein.
- Zu den Erkennungsmerkmalen der Modelle gehören Hinweise wie Umgebungen,die wie simulierte…
- Die Autoren unterteilen Alignment-Hinweise in Umgebungs- und Aufgabenebene und schlagen vor,die…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- METR:Notes(网页)
- Kategorie
- Papers & Forschung
- Thema
- Sicherheit und Alignment
- KI-Bewertung
- 62
METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: METR misst die Fähigkeit von Modellen, Alignment-Evaluierungen zu erkennen: Investigative Agenten können Alignment- und Fähigkeitsevaluierungen unterscheiden. 16. November 2026. https://new.nat6.net/de/news/m4emm1ej7qzex1k77a7mfaztd/