Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题
AI 摘要
据《连线》报道,Meta 通过外包公司 Covalen 开展代号“Cannes”的项目,让数百名外包人员伪装成未成年人,向 OpenAI ChatGPT、谷歌 Gemini 及 Character.AI 发送涉及自杀、自残、进食障碍等高风险提示词,以测试竞品聊天机器人的安全拦截机制。项目持续至 4 月 21 日,单轮测试发送超 4.5 万个提示词,外包人员创建 18 岁以下虚假账号并上传药片、刀具等图片。Meta 称这是常规安全测试,且不会用竞品测试数据训练自家模型。
关键信息
- 据《连线》报道,Meta 通过外包公司 Covalen 开展代号“Cannes”的项目,让数百名外包人员伪装成未成年人,向 OpenAI ChatGPT、谷歌 Gemini 及 Character.
- AI 发送涉及自杀、自残、进食障碍等高风险提示词,以测试竞品聊天机器人的安全拦截机制。
- 项目持续至 4 月 21 日,单轮测试发送超 4.
- 5 万个提示词,外包人员创建 18 岁以下虚假账号并上传药片、刀具等图片。
- Meta 称这是常规安全测试,且不会用竞品测试数据训练自家模型
速览
推荐理由
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题。2026年7月6日。https://new.nat6.net/news/cmr91yrn100noslmpusn7u7q0/