Meta、ChatGPTなど競合を秘密裏にテスト:請負業者が未成年に扮し数万件の危機的プロンプトを送信
原題:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
AI 要約
Metaは請負業者Covelenを通じてコード名「Cannes」のプロジェクトを立ち上げ、数百人を雇って未成年に扮させ、自殺、自傷、摂食障害、薬物に関する敏感なプロンプトをChatGPT、Gemini、Character.AIに送信し、その回答を表に記録した。2025年8月のテストでは4万5000件を超えるプロンプトを送信した。Metaは業界標準の安全テストだと説明し、データを自社モデルのトレーニングには使用していないとしている。テスト対象企業は知らされておらず、Character.AIは利用規約違反だと述べ、OpenAIは調査を実施し、Googleは承認していないとしている。青少年によるAIチャットボット利用への懸念は続いており、以前にはユーザーの自殺事件も起きている。
要点
- Metaは請負業者Covelenを通じてコード名「Cannes」のプロジェクトを立ち上げ、数百人を雇って未成年に扮させ、自殺、自傷、摂食障害、薬物に関する敏感なプロンプトをChatGPT、Gemin…
- AIに送信し、その回答を表に記録した。
- 2025年8月のテストでは4万5000件を超えるプロンプトを送信した。
- Metaは業界標準の安全テストだと説明し、データを自社モデルのトレーニングには使用していないとしている。
- テスト対象企業は知らされておらず、Character.
概要
- 公開日時
- 更新日時
- カテゴリ
- 業界動向
- AI スコア
- 70
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Meta、ChatGPTなど競合を秘密裏にテスト:請負業者が未成年に扮し数万件の危機的プロンプトを送信。2026年6月30日。https://new.nat6.net/ja/news/cmr0kov5302qnslolcwg00yqd/