Branche

Meta soll Auftragnehmer als Minderjährige getarnt haben, um KI-Konkurrenten zu sensiblen Themen zu bewegen

KI-Zusammenfassung

Laut Wired führt Meta über das Outsourcing-Unternehmen Covalen das Projekt mit dem Codenamen "Cannes" durch, bei dem Hunderte Auftragnehmer sich als Minderjährige ausgeben und an OpenAI ChatGPT, Google Gemini und Character.AI hochriskante Prompts zu Suizid, Selbstverletzung und Essstörungen senden, um die Sicherheitsfilter der Chatbots von Wettbewerbern zu testen. Das Projekt lief bis zum 21. April; in einer Testrunde wurden über 45000 Prompts versendet, und die Auftragnehmer erstellten gefälschte Konten für unter 18-Jährige und luden Bilder von Tabletten und Messern hoch. Meta bezeichnet dies als routinemäßige Sicherheitstests und erklärt, keine Testdaten von Wettbewerbern zum Training eigener Modelle zu verwenden.

Kernpunkte

  • Laut Wired führt Meta über das Outsourcing-Unternehmen Covalen das Projekt mit dem Codenamen…
  • AI hochriskante Prompts zu Suizid,Selbstverletzung und Essstörungen senden,um die…
  • Das Projekt lief bis zum 21.
  • in einer Testrunde wurden über 45000 Prompts versendet,und die Auftragnehmer erstellten gefälschte…
  • Meta bezeichnet dies als routinemäßige Sicherheitstests und erklärt,keine Testdaten von…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
IT之家·人工智能
Kategorie
Branche
KI-Bewertung
73
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Meta soll Auftragnehmer als Minderjährige getarnt haben, um KI-Konkurrenten zu sensiblen Themen zu bewegen. 6. Juli 2026. https://new.nat6.net/de/news/cmr91yrn100noslmpusn7u7q0/

Alle ansehen →