Bisakah Data Obrolan Publik Memprediksi Ketidakselarasan AI di Dunia Nyata?
Judul asli:Can public chat data predict real-world AI misalignments?
Ringkasan AI
OpenAI menggunakan dataset publik WildChat (1 juta percakapan yang dikumpulkan April 2023 hingga Mei 2024) untuk menyimulasikan penerapan model dan memprediksi tingkat perilaku buruk GPT-5.1, GPT-5.2, dan GPT-5.4 di lingkungan produksi nyata. Dibandingkan dengan data produksi privat, kesalahan prediksi rata-rata simulasi WildChat sekitar 3 kali lipat; namun akurasi prediksi untuk ketidakselarasan teknis dan bertipe agen menurun. Studi ini memvalidasi kelayakan dataset publik sebagai alat audit eksternal.
Poin utama
- OpenAI menggunakan dataset publik WildChat (1 juta percakapan yang dikumpulkan April 2023 hingga…
- 2,dan GPT-5.
- 4 di lingkungan produksi nyata.
- Dibandingkan dengan data produksi privat,kesalahan prediksi rata-rata simulasi WildChat sekitar 3…
- namun akurasi prediksi untuk ketidakselarasan teknis dan bertipe agen menurun.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- OpenAI:Alignment 研究博客(RSS)
- Kategori
- Makalah & Riset
- Skor AI
- 73
用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Bisakah Data Obrolan Publik Memprediksi Ketidakselarasan AI di Dunia Nyata?. 17 Juni 2026. https://new.nat6.net/id/news/cmqh269tl004esle1vztceb34/