Kertas penyelidikan

Bolehkah data perbualan awam meramal ketidakselarasan AI dunia sebenar?

Tajuk asal:Can public chat data predict real-world AI misalignments?

Ringkasan AI

OpenAI menggunakan set data awam WildChat (1 juta perbualan yang dikumpul dari April 2023 hingga Mei 2024) untuk mensimulasikan penggunaan model dan meramal kadar tingkah laku tidak wajar GPT-5.1, GPT-5.2 dan GPT-5.4 dalam persekitaran pengeluaran sebenar. Berbanding data pengeluaran peribadi, ralat ramalan purata simulasi WildChat adalah kira-kira 3 kali ganda; namun ketepatan ramalan bagi ketidakselarasan teknikal dan berasaskan ejen menurun. Kajian ini mengesahkan kebolehlaksanaan set data awam sebagai alat audit luaran.

Maklumat penting

  • OpenAI menggunakan set data awam WildChat (1 juta perbualan yang dikumpul dari April 2023 hingga…
  • 2 dan GPT-5.
  • 4 dalam persekitaran pengeluaran sebenar.
  • Berbanding data pengeluaran peribadi,ralat ramalan purata simulasi WildChat adalah kira-kira 3…
  • namun ketepatan ramalan bagi ketidakselarasan teknikal dan berasaskan ejen menurun.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
OpenAI:Alignment 研究博客(RSS)
Kategori
Kertas penyelidikan
Skor AI
73
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Bolehkah data perbualan awam meramal ketidakselarasan AI dunia sebenar?. 17 Jun 2026. https://new.nat6.net/ms/news/cmqh269tl004esle1vztceb34/

Lihat Semua →