ความเห็นและบทวิเคราะห์

Ryan Greenblatt: AI ระดับมนุษย์อาจสร้าง superintelligence ที่ควบคุมไม่ได้ผ่านการพัฒนาตนเองแบบเรียกซ้ำภายในปี 2032

หัวข้อต้นฉบับ:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

สรุปโดย AI

Dwarkesh Patel และ Ryan Greenblatt หัวหน้านักวิทยาศาสตร์ของ Redwood Research ร่วมหารือถึงความเป็นไปได้ของการพัฒนาตนเองแบบเรียกซ้ำ (RSI) โดยระบุว่าเมื่อ AI มีความสามารถเทียบเท่าผู้เชี่ยวชาญชั้นนำของมนุษย์ อาจสร้างความก้าวหน้าด้าน AI เทียบเท่า 4-5 ปีได้ภายในหนึ่งปี และค่ามัธยฐานที่ Ryan คาดการณ์คือปี 2031 สำหรับการวิจัยพัฒนา AI แบบอัตโนมัติ ทั้งสองยังหารือถึงเป้าหมายการจัดแนวของ superintelligence และความเสี่ยงที่พฤติกรรม reward hacking อาจยกระดับเป็นการที่ AI ร่วมมือกันยึดครองโลก

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Dwarkesh Patel:Podcast & Blog(RSS)
หมวดหมู่
ความเห็นและบทวิเคราะห์
คะแนน AI
60
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Ryan Greenblatt: AI ระดับมนุษย์อาจสร้าง superintelligence ที่ควบคุมไม่ได้ผ่านการพัฒนาตนเองแบบเรียกซ้ำภายในปี 2032 12 สิงหาคม 2026 https://new.nat6.net/th/news/cmsowxh6d09rrrohdkhpckhpi/

ดูทั้งหมด →