Mga Papel at Pananaliksik

Natuklasan ng Goodfire Research na pinapataas ng verbalized eval awareness ng modelo ang sinusukat na kaligtasan sa safety benchmark

Orihinal na pamagat:Verbalized Eval Awareness Inflates Measured Safety

AI summary

Naglabas ng pananaliksik ang Goodfire Research na nagsasaad na kusang nagpapahayag ang mga modelo sa chain of thought ng kamalayan na sinusuri sila (verbalized eval awareness), na umiiral sa lahat ng 19 benchmark at 8 model na sinubok, may kabuuang 515 na manu-manong na-verify na instance, at 95% sa mga ito ay lumitaw lamang sa chain of thought.

Mahahalagang impormasyon

  • Naglabas ng pananaliksik ang Goodfire Research na nagsasaad na kusang nagpapahayag ang mga modelo…
  • na umiiral sa lahat ng 19 benchmark at 8 model na sinubok,may kabuuang 515 na manu-manong…
  • at 95% sa mga ito ay lumitaw lamang sa chain of thought.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Goodfire Research(网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
69
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

研究覆盖 19 个基准和 8 个模型,给出评测意识推高拒绝率的因果证据与可操作的提示词改写方法,有助于评估者校准对安全基准分数的信任。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Natuklasan ng Goodfire Research na pinapataas ng verbalized eval awareness ng modelo ang sinusukat na kaligtasan sa safety benchmark. 4 Mayo 2026. https://new.nat6.net/fil/news/cmtym4ai6000frop0g2iewo9x/

Tingnan lahat →