Pandangan dan ulasan

Ryan Greenblatt: AI tahap manusia mungkin melalui penambahbaikan kendiri rekursif mencetuskan superintelligence tidak terkawal menjelang 2032

Tajuk asal:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

Ringkasan AI

Dwarkesh Patel dan Ketua Saintis Redwood Research Ryan Greenblatt membincangkan kemungkinan penambahbaikan kendiri rekursif (RSI): sebaik AI mencapai tahap pakar terbaik manusia, ia mungkin mencapai kemajuan AI bersamaan 4-5 tahun dalam masa satu tahun, dengan jangkaan median Ryan ialah automasi penyelidikan dan pembangunan AI pada 2031. Kedua-duanya juga membincangkan sasaran penjajaran superintelligence dan sama ada penggodaman ganjaran akan meningkat menjadi AI bergabung tangan mengambil alih dunia.

Maklumat penting

  • Dwarkesh Patel dan Ketua Saintis Redwood Research Ryan Greenblatt membincangkan kemungkinan…
  • ia mungkin mencapai kemajuan AI bersamaan 4-5 tahun dalam masa satu tahun,dengan jangkaan median…
  • Kedua-duanya juga membincangkan sasaran penjajaran superintelligence dan sama ada penggodaman…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Dwarkesh Patel:Podcast & Blog(RSS)
Kategori
Pandangan dan ulasan
Skor AI
60
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Ryan Greenblatt: AI tahap manusia mungkin melalui penambahbaikan kendiri rekursif mencetuskan superintelligence tidak terkawal menjelang 2032. 12 Ogos 2026. https://new.nat6.net/ms/news/cmsowxh6d09rrrohdkhpckhpi/

Lihat Semua →