Kertas penyelidikan

METR mengukur keupayaan model mengenal pasti penilaian penjajaran: ejen penyiasat dapat membezakan penilaian penjajaran daripada penilaian keupayaan

Tajuk asal:Measuring alignment eval tells

Ringkasan AI

METR menerbitkan nota penyelidikan yang menggunakan ejen penyiasat untuk menyiasat persekitaran dalam 19 penilaian penjajaran dan 36 penilaian keupayaan, bagi mengukur sama ada model dapat mengenal pasti bahawa ia berada dalam penilaian penjajaran. Keputusan menunjukkan keupayaan ejen membezakan kedua-dua jenis penilaian terus meningkat sepanjang tahun lalu, dan Opus 5.5 meletakkan semua penilaian penjajaran di atas semua penilaian keupayaan dalam set datanya. Asas pengenalan model termasuk petunjuk seperti persekitaran yang kelihatan seperti honeypot simulasi; penulis mengklasifikasikan petunjuk penjajaran kepada dua kategori iaitu peringkat persekitaran dan peringkat tugas, dan mencadangkan agar ia digunakan untuk menambah baik reka bentuk penilaian penjajaran secara berulang.

Maklumat penting

  • METR menerbitkan nota penyelidikan yang menggunakan ejen penyiasat untuk menyiasat persekitaran…
  • Keputusan menunjukkan keupayaan ejen membezakan kedua-dua jenis penilaian terus meningkat…
  • 5 meletakkan semua penilaian penjajaran di atas semua penilaian keupayaan dalam set datanya.
  • Asas pengenalan model termasuk petunjuk seperti persekitaran yang kelihatan seperti honeypot…
  • penulis mengklasifikasikan petunjuk penjajaran kepada dua kategori iaitu peringkat persekitaran…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
METR:Notes(网页)
Kategori
Kertas penyelidikan
Topik
Keselamatan dan penjajaran
Skor AI
62
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。

Topik berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: METR mengukur keupayaan model mengenal pasti penilaian penjajaran: ejen penyiasat dapat membezakan penilaian penjajaran daripada penilaian keupayaan. 16 November 2026. https://new.nat6.net/ms/news/m4emm1ej7qzex1k77a7mfaztd/

Lihat Semua →