Ryan Greenblatt: AI setingkat manusia mungkin melahirkan superintelligence tak terkendali melalui perbaikan diri rekursif sebelum 2032
Judul asli:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032
Ringkasan AI
Dwarkesh Patel dan Ryan Greenblatt, ilmuwan utama di Redwood Research, membahas kemungkinan recursive self-improvement (RSI): begitu AI mencapai tingkat pakar terbaik manusia, kemajuan AI setara 4-5 tahun mungkin tercapai dalam satu tahun, dengan ekspektasi median Ryan adalah otomatisasi riset AI pada 2031. Keduanya juga membahas objek penyelarasan superintelligence, apakah reward hacking akan meningkat menjadi AI yang bersama-sama mengambil alih dunia, dan risiko lainnya.
Poin utama
- Dwarkesh Patel dan Ryan Greenblatt,ilmuwan utama di Redwood Research,membahas kemungkinan…
- kemajuan AI setara 4-5 tahun mungkin tercapai dalam satu tahun,dengan ekspektasi median Ryan…
- Keduanya juga membahas objek penyelarasan superintelligence,apakah reward hacking akan meningkat…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Opini & Komentar
- Skor AI
- 60
将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Ryan Greenblatt: AI setingkat manusia mungkin melahirkan superintelligence tak terkendali melalui perbaikan diri rekursif sebelum 2032. 12 Agustus 2026. https://new.nat6.net/id/news/cmsowxh6d09rrrohdkhpckhpi/