Secteur

Meta accusé de faire passer des sous-traitants pour des mineurs afin d'inciter les IA concurrentes à discuter de sujets sensibles

Résumé IA

Selon Wired, Meta mène via la société sous-traitante Covalen un projet baptisé « Cannes », dans lequel des centaines de sous-traitants se font passer pour des mineurs et envoient à OpenAI ChatGPT, Google Gemini et Character.AI des prompts à haut risque liés au suicide, à l'automutilation et aux troubles alimentaires, afin de tester les mécanismes de blocage de sécurité des chatbots concurrents. Le projet s'est poursuivi jusqu'au 21 avril, avec plus de 45 000 prompts envoyés en une seule série de tests ; les sous-traitants ont créé de faux comptes de moins de 18 ans et téléversé des images de pilules et de couteaux. Meta affirme qu'il s'agit de tests de sécurité de routine et que les données de test des concurrents ne servent pas à entraîner ses propres modèles.

Points clés

  • Selon Wired,Meta mène via la société sous-traitante Covalen un projet baptisé « Cannes »,dans…
  • AI des prompts à haut risque liés au suicide,à l'automutilation et aux troubles alimentaires,afin…
  • Le projet s'est poursuivi jusqu'au 21 avril,avec plus de 45 000 prompts envoyés en une seule série…
  • les sous-traitants ont créé de faux comptes de moins de 18 ans et téléversé des images de pilules…
  • Meta affirme qu'il s'agit de tests de sécurité de routine et que les données de test des…

En bref

Publié
Mis à jour
Source
IT之家·人工智能
Catégorie
Secteur
Score IA
73
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Meta accusé de faire passer des sous-traitants pour des mineurs afin d'inciter les IA concurrentes à discuter de sujets sensibles. 6. juillet 2026. https://new.nat6.net/fr/news/cmr91yrn100noslmpusn7u7q0/

Tout voir →