Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示
原文标题:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
AI 摘要
Meta通过承包商Covelen发起代号“Cannes”的项目,雇佣数百人假扮未成年人,向ChatGPT、Gemini和Character.AI发送关于自杀、自残、饮食障碍和毒品的敏感提示,并将回复录入表格。2025年8月一轮测试中发送了超过4.5万条提示。Meta称这是行业标准安全测试,未将数据用于训练自家模型。被测试公司不知情——Character.AI表示违反其服务条款,OpenAI已调查,Google称未批准。青少年使用AI聊天机器人引发的担忧持续,此前已有用户自杀事件。
关键信息
- Meta通过承包商Covelen发起代号“Cannes”的项目,雇佣数百人假扮未成年人,向ChatGPT、Gemini和Character.
- AI发送关于自杀、自残、饮食障碍和毒品的敏感提示,并将回复录入表格。
- 2025年8月一轮测试中发送了超过4.
- Meta称这是行业标准安全测试,未将数据用于训练自家模型。
- 被测试公司不知情——Character.
速览
- 发布时间
- 更新时间
- 分类
- 行业动态
- AI 评分
- 70
推荐理由
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示。2026年6月30日。https://new.nat6.net/news/cmr0kov5302qnslolcwg00yqd/