行业动态

Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题

AI 摘要

据《连线》报道,Meta 通过外包公司 Covalen 开展代号“Cannes”的项目,让数百名外包人员伪装成未成年人,向 OpenAI ChatGPT、谷歌 Gemini 及 Character.AI 发送涉及自杀、自残、进食障碍等高风险提示词,以测试竞品聊天机器人的安全拦截机制。项目持续至 4 月 21 日,单轮测试发送超 4.5 万个提示词,外包人员创建 18 岁以下虚假账号并上传药片、刀具等图片。Meta 称这是常规安全测试,且不会用竞品测试数据训练自家模型。

关键信息

  • 据《连线》报道,Meta 通过外包公司 Covalen 开展代号“Cannes”的项目,让数百名外包人员伪装成未成年人,向 OpenAI ChatGPT、谷歌 Gemini 及 Character.
  • AI 发送涉及自杀、自残、进食障碍等高风险提示词,以测试竞品聊天机器人的安全拦截机制。
  • 项目持续至 4 月 21 日,单轮测试发送超 4.
  • 5 万个提示词,外包人员创建 18 岁以下虚假账号并上传药片、刀具等图片。
  • Meta 称这是常规安全测试,且不会用竞品测试数据训练自家模型

速览

发布时间
更新时间
来源
IT之家·人工智能
分类
行业动态
AI 评分
73
阅读原文 前往信息源阅读完整正文
推荐理由

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题。2026年7月6日。https://new.nat6.net/news/cmr91yrn100noslmpusn7u7q0/

查看全部 →