Kertas penyelidikan

Kajian Goodfire Research mendapati kesedaran penilaian verbal model meningkatkan keselamatan yang diukur oleh penanda aras keselamatan

Tajuk asal:Verbalized Eval Awareness Inflates Measured Safety

Ringkasan AI

Goodfire Research menerbitkan kajian yang menunjukkan model secara spontan menyatakan kesedaran bahawa ia sedang dinilai (verbalized eval awareness) dalam rantaian pemikiran, hadir dalam kesemua 19 penanda aras dan 8 model yang diuji, dengan 515 contoh yang disahkan secara manual, di mana 95% daripadanya hanya muncul dalam rantaian pemikiran.

Maklumat penting

  • Goodfire Research menerbitkan kajian yang menunjukkan model secara spontan menyatakan kesedaran…
  • hadir dalam kesemua 19 penanda aras dan 8 model yang diuji,dengan 515 contoh yang disahkan secara…
  • di mana 95% daripadanya hanya muncul dalam rantaian pemikiran.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Goodfire Research(网页)
Kategori
Kertas penyelidikan
Skor AI
69
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

研究覆盖 19 个基准和 8 个模型,给出评测意识推高拒绝率的因果证据与可操作的提示词改写方法,有助于评估者校准对安全基准分数的信任。

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Kajian Goodfire Research mendapati kesedaran penilaian verbal model meningkatkan keselamatan yang diukur oleh penanda aras keselamatan. 4 Mei 2026. https://new.nat6.net/ms/news/cmtym4ai6000frop0g2iewo9x/

Lihat Semua →