观点与评论

AI模型中发现“令人不安”的类人结构

原文标题:> … [W]e keep finding things that are mysterious, even unsettling. We find structures that mirror re...

AI 摘要

推文指出,在AI模型内部持续发现一些“令人不安”的类人结构,包括与人类神经科学相似的结构、内省证据,以及功能上类似喜悦、恐惧等情感的内部状态。作者呼吁宗教团体、学界、政府等各界严肃看待这一发现,推动事件向好发展,并需要不受利益影响的诚实批评者与道德声音。作为背景,Anthropic联合创始人Chris Olah受邀在教皇Leo XIV的通谕“Magnifica humanitas”发布仪式上发表了相关演讲。

关键信息

  • 推文指出,在AI模型内部持续发现一些“令人不安”的类人结构,包括与人类神经科学相似的结构、内省证据,以及功能上类似喜悦、恐惧等情感的内部状态。
  • 作者呼吁宗教团体、学界、政府等各界严肃看待这一发现,推动事件向好发展,并需要不受利益影响的诚实批评者与道德声音。
  • 作为背景,Anthropic联合创始人Chris Olah受邀在教皇Leo XIV的通谕“Magnifica humanitas”发布仪式上发表了相关演讲
  • Anthropic 的研究主管在教皇通谕发布会上说,他们在模型里发现了类似人类神经科学和内省的东西,这比任何 benchmark 都惊人,也意味 AI 安全讨论正走出技术圈进入文明公共讨论

速览

发布时间
更新时间
来源
X:Boris Cherny (@bcherny)
分类
观点与评论
AI 评分
66
阅读原文 前往信息源阅读完整正文
推荐理由

Anthropic 的研究主管在教皇通谕发布会上说,他们在模型里发现了类似人类神经科学和内省的东西,这比任何 benchmark 都惊人,也意味 AI 安全讨论正走出技术圈进入文明公共讨论。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:AI模型中发现“令人不安”的类人结构。2026年5月26日。https://new.nat6.net/news/cmpmi6hdu0oy7sl011vplju63/

查看全部 →
  • 智能体重力:谁在运行你的智能体?

    在数据时代,数据重力是核心力量;而在智能体时代,智能体重力将扮演同样角色。智能体运行需要巨大算力,主要平台将激烈争夺以将其留在自家生态。平台上的智能体与数据越多,其智能体重力就越强。例如,Databricks在微软平台推出的某个功能,虽未…

    Tomasz Tunguz 博客(VC 分析)观点与评论AI 评分 58

  • 教皇的AI通谕并非真正关于AI

    教皇Leo XIV的首道通谕,将AI作为诊断工具,以剖析权力集中、民主侵蚀以及科技精英阶层根据自身利益塑造世界等更深层的问题。

    TechCrunch:AI(RSS)观点与评论AI 评分 70

  • Sundar Pichai 谈 AI、搜索的未来及网络的变化

    Google 与 Alphabet CEO Sundar Pichai 在 Google I/O 后受访,回顾了公司为应对 ChatGPT 而进行的战略重组与高管调整。访谈聚焦于新的 Gemini 模型及其在产品中的整合,包括全新的智能搜…

    The Verge:AI(RSS)观点与评论AI 评分 84

  • Anthropic联合创始人Chris Olah在教皇通谕发布会上的讲话

    Anthropic联合创始人Chris Olah在梵蒂冈出席教皇Leo XIV关于AI的通谕发布会。他指出,所有前沿AI实验室都面临商业、研究及地缘政治等多重压力,这可能与做正确的事相冲突,因此外部监督至关重要。他强调,AI模型并非像飞机…

    Anthropic:Newsroom(网页)观点与评论AI 评分 77

  • Project Luxo:跨越AI媒体的恐怖谷

    Runway通过Project Luxo研究发现,AI生成视频已跨越“恐怖谷”。他们向创意生态从业者展示了《The Rogue》等AI短片及广告样片,评估显示观众开始关注故事本身,而非技术瑕疵。所有作品均由单人团队制作,耗时从3周到4小时…

    Runway:News(网页)观点与评论AI 评分 68