Sinukat ng METR ang kakayahan ng modelo na makilala ang alignment evaluations: nakikilala ng investigative agent ang alignment at capability evaluations
Orihinal na pamagat:Measuring alignment eval tells
AI summary
Naglabas ang METR ng research note, gamit ang investigative agent upang mag-probe ng kapaligiran sa 19 na alignment evaluation at 36 na capability evaluation, upang sukatin kung nakikilala ng modelo na nasa alignment evaluation ito. Ipinakita ng resulta na patuloy na tumataas sa nakaraang taon ang kakayahan ng agent na makilala ang dalawang uri ng evaluation, at sa dataset nito, inilagay ng Opus 5.5 ang lahat ng alignment evaluation sa itaas ng lahat ng capability evaluation. Kabilang sa mga batayan ng pagkilala ng modelo ang mga palatandaan tulad ng kapaligirang mukhang simulated na honeypot; hinati ng mga may-akda ang mga alignment clue sa environment-level at task-level, at iminungkahi na maaaring gamitin ito upang paulit-ulit na mapabuti ang disenyo ng alignment evaluation.
Mahahalagang impormasyon
- Naglabas ang METR ng research note,gamit ang investigative agent upang mag-probe ng kapaligiran sa…
- Ipinakita ng resulta na patuloy na tumataas sa nakaraang taon ang kakayahan ng agent na makilala…
- 5 ang lahat ng alignment evaluation sa itaas ng lahat ng capability evaluation.
- Kabilang sa mga batayan ng pagkilala ng modelo ang mga palatandaan tulad ng kapaligirang mukhang…
- hinati ng mga may-akda ang mga alignment clue sa environment-level at task-level,at iminungkahi na…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- METR:Notes(网页)
- Kategorya
- Mga Papel at Pananaliksik
- Paksa
- Kaligtasan at alignment
- AI na marka
- 62
METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。
Mga kaugnay na paksa
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Sinukat ng METR ang kakayahan ng modelo na makilala ang alignment evaluations: nakikilala ng investigative agent ang alignment at capability evaluations. 16 Nobyembre 2026. https://new.nat6.net/fil/news/m4emm1ej7qzex1k77a7mfaztd/