Mga Papel at Pananaliksik

Natuklasan ang hindi pa kilalang AI alignment deviation sa paggamit sa totoong mundo

Orihinal na pamagat:Discovering unknown AI misalignments in real-world usage

AI summary

Ipinapakita ng pananaliksik na kayang tukuyin at unawain ng mga reasoning model ang mga dating hindi kilalang AI behavior alignment deviation sa pamamagitan ng pagsusuri sa aktwal na feedback ng mga user. Hindi umaasa ang pamamaraang ito sa mga paunang itinakdang klasipikasyon ng deviation, kundi aktibong natutuklasan ang mga potensyal na paglihis sa pagitan ng pag-uugali ng modelo at intensyon ng tao mula sa tunay na datos ng interaksyon, na nagbibigay ng bagong paraan para sa dinamikong pagsubaybay at pagwawasto ng mga AI system.

Mahahalagang impormasyon

  • Ipinapakita ng pananaliksik na kayang tukuyin at unawain ng mga reasoning model ang mga dating…
  • Hindi umaasa ang pamamaraang ito sa mga paunang itinakdang klasipikasyon ng deviation,kundi…
  • na nagbibigay ng bagong paraan para sa dinamikong pagsubaybay at pagwawasto ng mga AI system.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
OpenAI:Alignment 研究博客(RSS)
Kategorya
Mga Papel at Pananaliksik
AI na marka
71
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

OpenAI 让推理模型从真实用户反馈中自动发现未知的对齐失败,这比红队测试更接近真实威胁面。做安全和对齐的人应该认真看,它可能改变你们的检测范式。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Natuklasan ang hindi pa kilalang AI alignment deviation sa paggamit sa totoong mundo. 7 Pebrero 2026. https://new.nat6.net/fil/news/cmoqytjhu006pslboxo1b8drl/

Tingnan lahat →