Ryan Greenblatt: Menschheitsgradige KI könnte bis 2032 durch rekursive Selbstverbesserung eine unkontrollierte Superintelligenz hervorbringen
Originaltitel:Ryan Greenblatt – Human level AIs might build runaway superintelligences by 2032
KI-Zusammenfassung
Dwarkesh Patel und Ryan Greenblatt, leitender Wissenschaftler bei Redwood Research, erörtern die Möglichkeit rekursiver Selbstverbesserung (RSI): Sobald KI das Niveau führender menschlicher Experten erreicht, könnte sie binnen eines Jahres einen KI-Fortschritt von vier bis fünf Jahren erzielen. Greenblatts Median-Erwartung liegt bei automatisierter KI-Forschung im Jahr 2031. Zudem diskutieren sie, worauf Superintelligenz ausgerichtet werden sollte und ob Reward-Hacking eskalieren könnte, bis KI gemeinsam die Welt übernimmt.
Kernpunkte
- Dwarkesh Patel und Ryan Greenblatt,leitender Wissenschaftler bei Redwood Research,erörtern die…
- Greenblatts Median-Erwartung liegt bei automatisierter KI-Forschung im Jahr 2031.
- Zudem diskutieren sie,worauf Superintelligenz ausgerichtet werden sollte und ob Reward-Hacking…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Meinung
- KI-Bewertung
- 60
将递归自我改进的论证拆解为三个命题,并在此基础上推演奖励黑客如何演变为全面接管,为评估 AI 安全紧迫性提供了更具体的思维框架。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Ryan Greenblatt: Menschheitsgradige KI könnte bis 2032 durch rekursive Selbstverbesserung eine unkontrollierte Superintelligenz hervorbringen. 12. August 2026. https://new.nat6.net/de/news/cmsowxh6d09rrrohdkhpckhpi/