Mga Opinyon at Komentaryo

Ryan Greenblatt: maaaring magdulot ang human-level AI ng hindi makontrol na superintelligence sa pamamagitan ng recursive self-improvement bago ang 2032

Orihinal na pamagat:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032

AI summary

Tinalakay nina Dwarkesh Patel at Ryan Greenblatt, chief scientist ng Redwood Research, ang posibilidad ng recursive self-improvement (RSI): kapag naabot ng AI ang antas ng nangungunang eksperto ng tao, maaaring makamit sa loob ng isang taon ang katumbas ng 4-5 taon ng AI progress, at ang median na inaasahan ni Ryan ay automated AI R&D sa 2031. Tinalakay din nila ang alignment target ng superintelligence, at kung ang reward hacking ay maaaring umakyat sa AI na magtutulungan upang sakupin ang mundo at iba pang panganib.

Mahahalagang impormasyon

  • Tinalakay nina Dwarkesh Patel at Ryan Greenblatt,chief scientist ng Redwood Research,ang…
  • maaaring makamit sa loob ng isang taon ang katumbas ng 4-5 taon ng AI progress,at ang median na…
  • Tinalakay din nila ang alignment target ng superintelligence,at kung ang reward hacking ay…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Dwarkesh Patel:Podcast & Blog(RSS)
Kategorya
Mga Opinyon at Komentaryo
AI na marka
60
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Ryan Greenblatt: maaaring magdulot ang human-level AI ng hindi makontrol na superintelligence sa pamamagitan ng recursive self-improvement bago ang 2032. 12 Agosto 2026. https://new.nat6.net/fil/news/cmsowxh6d09rrrohdkhpckhpi/

Tingnan lahat →