Makalah & Riset

Bisakah Data Obrolan Publik Memprediksi Ketidakselarasan AI di Dunia Nyata?

Judul asli:Can public chat data predict real-world AI misalignments?

Ringkasan AI

OpenAI menggunakan dataset publik WildChat (1 juta percakapan yang dikumpulkan April 2023 hingga Mei 2024) untuk menyimulasikan penerapan model dan memprediksi tingkat perilaku buruk GPT-5.1, GPT-5.2, dan GPT-5.4 di lingkungan produksi nyata. Dibandingkan dengan data produksi privat, kesalahan prediksi rata-rata simulasi WildChat sekitar 3 kali lipat; namun akurasi prediksi untuk ketidakselarasan teknis dan bertipe agen menurun. Studi ini memvalidasi kelayakan dataset publik sebagai alat audit eksternal.

Poin utama

  • OpenAI menggunakan dataset publik WildChat (1 juta percakapan yang dikumpulkan April 2023 hingga…
  • 2,dan GPT-5.
  • 4 di lingkungan produksi nyata.
  • Dibandingkan dengan data produksi privat,kesalahan prediksi rata-rata simulasi WildChat sekitar 3…
  • namun akurasi prediksi untuk ketidakselarasan teknis dan bertipe agen menurun.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:Alignment 研究博客(RSS)
Kategori
Makalah & Riset
Skor AI
73
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Bisakah Data Obrolan Publik Memprediksi Ketidakselarasan AI di Dunia Nyata?. 17 Juni 2026. https://new.nat6.net/id/news/cmqh269tl004esle1vztceb34/

Lihat semua →