Bolehkah data perbualan awam meramal ketidakselarasan AI dunia sebenar?
Tajuk asal:Can public chat data predict real-world AI misalignments?
Ringkasan AI
OpenAI menggunakan set data awam WildChat (1 juta perbualan yang dikumpul dari April 2023 hingga Mei 2024) untuk mensimulasikan penggunaan model dan meramal kadar tingkah laku tidak wajar GPT-5.1, GPT-5.2 dan GPT-5.4 dalam persekitaran pengeluaran sebenar. Berbanding data pengeluaran peribadi, ralat ramalan purata simulasi WildChat adalah kira-kira 3 kali ganda; namun ketepatan ramalan bagi ketidakselarasan teknikal dan berasaskan ejen menurun. Kajian ini mengesahkan kebolehlaksanaan set data awam sebagai alat audit luaran.
Maklumat penting
- OpenAI menggunakan set data awam WildChat (1 juta perbualan yang dikumpul dari April 2023 hingga…
- 2 dan GPT-5.
- 4 dalam persekitaran pengeluaran sebenar.
- Berbanding data pengeluaran peribadi,ralat ramalan purata simulasi WildChat adalah kira-kira 3…
- namun ketepatan ramalan bagi ketidakselarasan teknikal dan berasaskan ejen menurun.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- OpenAI:Alignment 研究博客(RSS)
- Kategori
- Kertas penyelidikan
- Skor AI
- 73
用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Bolehkah data perbualan awam meramal ketidakselarasan AI dunia sebenar?. 17 Jun 2026. https://new.nat6.net/ms/news/cmqh269tl004esle1vztceb34/