METR mengukur keupayaan model mengenal pasti penilaian penjajaran: ejen penyiasat dapat membezakan penilaian penjajaran daripada penilaian keupayaan
Tajuk asal:Measuring alignment eval tells
Ringkasan AI
METR menerbitkan nota penyelidikan yang menggunakan ejen penyiasat untuk menyiasat persekitaran dalam 19 penilaian penjajaran dan 36 penilaian keupayaan, bagi mengukur sama ada model dapat mengenal pasti bahawa ia berada dalam penilaian penjajaran. Keputusan menunjukkan keupayaan ejen membezakan kedua-dua jenis penilaian terus meningkat sepanjang tahun lalu, dan Opus 5.5 meletakkan semua penilaian penjajaran di atas semua penilaian keupayaan dalam set datanya. Asas pengenalan model termasuk petunjuk seperti persekitaran yang kelihatan seperti honeypot simulasi; penulis mengklasifikasikan petunjuk penjajaran kepada dua kategori iaitu peringkat persekitaran dan peringkat tugas, dan mencadangkan agar ia digunakan untuk menambah baik reka bentuk penilaian penjajaran secara berulang.
Maklumat penting
- METR menerbitkan nota penyelidikan yang menggunakan ejen penyiasat untuk menyiasat persekitaran…
- Keputusan menunjukkan keupayaan ejen membezakan kedua-dua jenis penilaian terus meningkat…
- 5 meletakkan semua penilaian penjajaran di atas semua penilaian keupayaan dalam set datanya.
- Asas pengenalan model termasuk petunjuk seperti persekitaran yang kelihatan seperti honeypot…
- penulis mengklasifikasikan petunjuk penjajaran kepada dua kategori iaitu peringkat persekitaran…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- METR:Notes(网页)
- Kategori
- Kertas penyelidikan
- Skor AI
- 62
METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。
Topik berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: METR mengukur keupayaan model mengenal pasti penilaian penjajaran: ejen penyiasat dapat membezakan penilaian penjajaran daripada penilaian keupayaan. 16 November 2026. https://new.nat6.net/ms/news/m4emm1ej7qzex1k77a7mfaztd/