Mga Papel at Pananaliksik

Sinukat ng METR ang kakayahan ng modelo na makilala ang alignment evaluations: nakikilala ng investigative agent ang alignment at capability evaluations

Orihinal na pamagat:Measuring alignment eval tells

AI summary

Naglabas ang METR ng research note, gamit ang investigative agent upang mag-probe ng kapaligiran sa 19 na alignment evaluation at 36 na capability evaluation, upang sukatin kung nakikilala ng modelo na nasa alignment evaluation ito. Ipinakita ng resulta na patuloy na tumataas sa nakaraang taon ang kakayahan ng agent na makilala ang dalawang uri ng evaluation, at sa dataset nito, inilagay ng Opus 5.5 ang lahat ng alignment evaluation sa itaas ng lahat ng capability evaluation. Kabilang sa mga batayan ng pagkilala ng modelo ang mga palatandaan tulad ng kapaligirang mukhang simulated na honeypot; hinati ng mga may-akda ang mga alignment clue sa environment-level at task-level, at iminungkahi na maaaring gamitin ito upang paulit-ulit na mapabuti ang disenyo ng alignment evaluation.

Mahahalagang impormasyon

  • Naglabas ang METR ng research note,gamit ang investigative agent upang mag-probe ng kapaligiran sa…
  • Ipinakita ng resulta na patuloy na tumataas sa nakaraang taon ang kakayahan ng agent na makilala…
  • 5 ang lahat ng alignment evaluation sa itaas ng lahat ng capability evaluation.
  • Kabilang sa mga batayan ng pagkilala ng modelo ang mga palatandaan tulad ng kapaligirang mukhang…
  • hinati ng mga may-akda ang mga alignment clue sa environment-level at task-level,at iminungkahi na…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
METR:Notes(网页)
Kategorya
Mga Papel at Pananaliksik
Paksa
Kaligtasan at alignment
AI na marka
62
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。

Mga kaugnay na paksa

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Sinukat ng METR ang kakayahan ng modelo na makilala ang alignment evaluations: nakikilala ng investigative agent ang alignment at capability evaluations. 16 Nobyembre 2026. https://new.nat6.net/fil/news/m4emm1ej7qzex1k77a7mfaztd/

Tingnan lahat →