Opini & Komentar

Ryan Greenblatt: AI setingkat manusia mungkin melahirkan superintelligence tak terkendali melalui perbaikan diri rekursif sebelum 2032

Judul asli:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

Ringkasan AI

Dwarkesh Patel dan Ryan Greenblatt, ilmuwan utama di Redwood Research, membahas kemungkinan recursive self-improvement (RSI): begitu AI mencapai tingkat pakar terbaik manusia, kemajuan AI setara 4-5 tahun mungkin tercapai dalam satu tahun, dengan ekspektasi median Ryan adalah otomatisasi riset AI pada 2031. Keduanya juga membahas objek penyelarasan superintelligence, apakah reward hacking akan meningkat menjadi AI yang bersama-sama mengambil alih dunia, dan risiko lainnya.

Poin utama

  • Dwarkesh Patel dan Ryan Greenblatt,ilmuwan utama di Redwood Research,membahas kemungkinan…
  • kemajuan AI setara 4-5 tahun mungkin tercapai dalam satu tahun,dengan ekspektasi median Ryan…
  • Keduanya juga membahas objek penyelarasan superintelligence,apakah reward hacking akan meningkat…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Dwarkesh Patel:Podcast & Blog(RSS)
Kategori
Opini & Komentar
Skor AI
60
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Ryan Greenblatt: AI setingkat manusia mungkin melahirkan superintelligence tak terkendali melalui perbaikan diri rekursif sebelum 2032. 12 Agustus 2026. https://new.nat6.net/id/news/cmsowxh6d09rrrohdkhpckhpi/

Lihat semua →