Mga Papel at Pananaliksik

Maaari bang mahulaan ng pampublikong chat data ang tunay na AI misalignment?

Orihinal na pamagat:Can public chat data predict real-world AI misalignments?

AI summary

Ginamit ng OpenAI ang pampublikong dataset na WildChat (1 milyong usapan na nakolekta mula Abril 2023 hanggang Mayo 2024) upang gayahin ang deployment ng modelo at mahulaan ang rate ng hindi kanais-nais na pag-uugali ng GPT-5.1, GPT-5.2, at GPT-5.4 sa tunay na production environment. Sa paghahambing sa pribadong production data, natuklasan na ang average na error sa prediksyon ng WildChat simulation ay humigit-kumulang 3 beses; ngunit bumababa ang katumpakan ng prediksyon para sa teknikal at agentic na misalignment. Pinatunayan ng pag-aaral ang pagiging posible ng pampublikong dataset bilang kasangkapan sa panlabas na pag-audit.

Mahahalagang impormasyon

  • Ginamit ng OpenAI ang pampublikong dataset na WildChat (1 milyong usapan na nakolekta mula Abril…
  • 2,at GPT-5.
  • 4 sa tunay na production environment.
  • Sa paghahambing sa pribadong production data,natuklasan na ang average na error sa prediksyon ng…
  • ngunit bumababa ang katumpakan ng prediksyon para sa teknikal at agentic na misalignment.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
OpenAI:Alignment 研究博客(RSS)
Kategorya
Mga Papel at Pananaliksik
AI na marka
73
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Maaari bang mahulaan ng pampublikong chat data ang tunay na AI misalignment?. 17 Hunyo 2026. https://new.nat6.net/fil/news/cmqh269tl004esle1vztceb34/

Tingnan lahat →