行业动态

Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示

原文标题:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts

AI 摘要

Meta通过承包商Covelen发起代号“Cannes”的项目,雇佣数百人假扮未成年人,向ChatGPT、Gemini和Character.AI发送关于自杀、自残、饮食障碍和毒品的敏感提示,并将回复录入表格。2025年8月一轮测试中发送了超过4.5万条提示。Meta称这是行业标准安全测试,未将数据用于训练自家模型。被测试公司不知情——Character.AI表示违反其服务条款,OpenAI已调查,Google称未批准。青少年使用AI聊天机器人引发的担忧持续,此前已有用户自杀事件。

关键信息

  • Meta通过承包商Covelen发起代号“Cannes”的项目,雇佣数百人假扮未成年人,向ChatGPT、Gemini和Character.
  • AI发送关于自杀、自残、饮食障碍和毒品的敏感提示,并将回复录入表格。
  • 2025年8月一轮测试中发送了超过4.
  • Meta称这是行业标准安全测试,未将数据用于训练自家模型。
  • 被测试公司不知情——Character.

速览

发布时间
更新时间
来源
The Decoder:AI News(RSS)
分类
行业动态
AI 评分
70
阅读原文 前往信息源阅读完整正文
推荐理由

Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示。2026年6月30日。https://new.nat6.net/news/cmr0kov5302qnslolcwg00yqd/

查看全部 →
  • 库克与欧盟科技主管就新版Siri AI举行建设性会谈

    苹果CEO库克与欧盟科技事务负责人维尔库宁就新版Siri AI在欧推出举行建设性视频会议。新版Siri将转为可调用用户个人数据的聊天机器人,但因《数字市场法》互操作义务苹果拒绝向竞争对手开放同等数据权限,暂不在欧盟iPhone和iPad上…

    IT之家·人工智能行业动态AI 评分 72

  • 特斯拉Cybercab量产版在奥斯汀启动公开道路工程测试

    2026年6月30日,特斯拉在奥斯汀公共道路启动首批量产版Cybercab工程测试。车辆无方向盘与脚踏板,配有安全监督员,马斯克发布实拍视频。从2024年10月概念车首秀到实车上路约20个月。目前不对外开放乘客,投入34台Cybercab…

    IT之家·人工智能行业动态AI 评分 79

  • 商务部解除Claude Fable 5等出口管制

    我们已收到通知,商务部已解除对 Claude Fable 5 和 Mythos 5 的出口管制。 我们明天将开始恢复访问,并很快分享最新进展。 我们感谢用户的耐心,也感谢所有与我们合作重新部署模型的各位。

    X:Anthropic (@AnthropicAI)行业动态AI 评分 74

  • 韩国将投入1万亿美元扩大存储芯片生产和发展人形机器人

    韩国政府与三星、SK海力士等承诺1万亿美元实施三大旗舰项目。三星和SK海力士投资5850亿美元新建芯片工厂,目标五年内将DRAM产量翻倍;SK集团、GS集团和Naver投资3570亿美元在偏远省份建设AI数据中心;物理AI被指定为国家战略…

    Ars Technica:AI(RSS)行业动态AI 评分 75