Maaari bang mahulaan ng pampublikong chat data ang tunay na AI misalignment?
Orihinal na pamagat:Can public chat data predict real-world AI misalignments?
AI summary
Ginamit ng OpenAI ang pampublikong dataset na WildChat (1 milyong usapan na nakolekta mula Abril 2023 hanggang Mayo 2024) upang gayahin ang deployment ng modelo at mahulaan ang rate ng hindi kanais-nais na pag-uugali ng GPT-5.1, GPT-5.2, at GPT-5.4 sa tunay na production environment. Sa paghahambing sa pribadong production data, natuklasan na ang average na error sa prediksyon ng WildChat simulation ay humigit-kumulang 3 beses; ngunit bumababa ang katumpakan ng prediksyon para sa teknikal at agentic na misalignment. Pinatunayan ng pag-aaral ang pagiging posible ng pampublikong dataset bilang kasangkapan sa panlabas na pag-audit.
Mahahalagang impormasyon
- Ginamit ng OpenAI ang pampublikong dataset na WildChat (1 milyong usapan na nakolekta mula Abril…
- 2,at GPT-5.
- 4 sa tunay na production environment.
- Sa paghahambing sa pribadong production data,natuklasan na ang average na error sa prediksyon ng…
- ngunit bumababa ang katumpakan ng prediksyon para sa teknikal at agentic na misalignment.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- OpenAI:Alignment 研究博客(RSS)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 73
用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Maaari bang mahulaan ng pampublikong chat data ang tunay na AI misalignment?. 17 Hunyo 2026. https://new.nat6.net/fil/news/cmqh269tl004esle1vztceb34/