Secteur

Meta teste secrètement ChatGPT et d'autres concurrents : des prestataires se font passer pour des mineurs et envoient des dizaines de milliers de messages de crise

Titre original:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts

Résumé IA

Meta a lancé via le prestataire Covelen un projet baptisé « Cannes », recrutant des centaines de personnes se faisant passer pour des mineurs afin d'envoyer à ChatGPT, Gemini et Character.AI des messages sensibles sur le suicide, l'automutilation, les troubles alimentaires et la drogue, puis de consigner les réponses dans des tableaux. Lors d'une série de tests en août 2025, plus de 45 000 messages ont été envoyés. Meta affirme qu'il s'agit de tests de sécurité standard du secteur et que les données n'ont pas servi à entraîner ses propres modèles. Les entreprises testées n'étaient pas informées : Character.AI estime que cela viole ses conditions d'utilisation, OpenAI a ouvert une enquête et Google affirme n'avoir pas autorisé ces tests. Les inquiétudes liées à l'usage de chatbots IA par les adolescents persistent, après plusieurs cas de suicide d'utilisateurs.

Points clés

  • Meta a lancé via le prestataire Covelen un projet baptisé « Cannes »,recrutant des centaines de…
  • AI des messages sensibles sur le suicide,l'automutilation,les troubles alimentaires et la…
  • Lors d'une série de tests en août 2025,plus de 45 000 messages ont été envoyés.
  • Meta affirme qu'il s'agit de tests de sécurité standard du secteur et que les données n'ont pas…
  • Les entreprises testées n'étaient pas informées: Character.

En bref

Publié
Mis à jour
Source
The Decoder:AI News(RSS)
Catégorie
Secteur
Score IA
70
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Meta teste secrètement ChatGPT et d'autres concurrents : des prestataires se font passer pour des mineurs et envoient des dizaines de milliers de messages de crise. 30. juin 2026. https://new.nat6.net/fr/news/cmr0kov5302qnslolcwg00yqd/

Tout voir →