Ryan Greenblatt: maaaring magdulot ang human-level AI ng hindi makontrol na superintelligence sa pamamagitan ng recursive self-improvement bago ang 2032
Orihinal na pamagat:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032
AI summary
Tinalakay nina Dwarkesh Patel at Ryan Greenblatt, chief scientist ng Redwood Research, ang posibilidad ng recursive self-improvement (RSI): kapag naabot ng AI ang antas ng nangungunang eksperto ng tao, maaaring makamit sa loob ng isang taon ang katumbas ng 4-5 taon ng AI progress, at ang median na inaasahan ni Ryan ay automated AI R&D sa 2031. Tinalakay din nila ang alignment target ng superintelligence, at kung ang reward hacking ay maaaring umakyat sa AI na magtutulungan upang sakupin ang mundo at iba pang panganib.
Mahahalagang impormasyon
- Tinalakay nina Dwarkesh Patel at Ryan Greenblatt,chief scientist ng Redwood Research,ang…
- maaaring makamit sa loob ng isang taon ang katumbas ng 4-5 taon ng AI progress,at ang median na…
- Tinalakay din nila ang alignment target ng superintelligence,at kung ang reward hacking ay…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Dwarkesh Patel:Podcast & Blog(RSS)
- Kategorya
- Mga Opinyon at Komentaryo
- AI na marka
- 60
将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Ryan Greenblatt: maaaring magdulot ang human-level AI ng hindi makontrol na superintelligence sa pamamagitan ng recursive self-improvement bago ang 2032. 12 Agosto 2026. https://new.nat6.net/fil/news/cmsowxh6d09rrrohdkhpckhpi/