Meta soll Auftragnehmer als Minderjährige getarnt haben, um KI-Konkurrenten zu sensiblen Themen zu bewegen
KI-Zusammenfassung
Laut Wired führt Meta über das Outsourcing-Unternehmen Covalen das Projekt mit dem Codenamen "Cannes" durch, bei dem Hunderte Auftragnehmer sich als Minderjährige ausgeben und an OpenAI ChatGPT, Google Gemini und Character.AI hochriskante Prompts zu Suizid, Selbstverletzung und Essstörungen senden, um die Sicherheitsfilter der Chatbots von Wettbewerbern zu testen. Das Projekt lief bis zum 21. April; in einer Testrunde wurden über 45000 Prompts versendet, und die Auftragnehmer erstellten gefälschte Konten für unter 18-Jährige und luden Bilder von Tabletten und Messern hoch. Meta bezeichnet dies als routinemäßige Sicherheitstests und erklärt, keine Testdaten von Wettbewerbern zum Training eigener Modelle zu verwenden.
Kernpunkte
- Laut Wired führt Meta über das Outsourcing-Unternehmen Covalen das Projekt mit dem Codenamen…
- AI hochriskante Prompts zu Suizid,Selbstverletzung und Essstörungen senden,um die…
- Das Projekt lief bis zum 21.
- in einer Testrunde wurden über 45000 Prompts versendet,und die Auftragnehmer erstellten gefälschte…
- Meta bezeichnet dies als routinemäßige Sicherheitstests und erklärt,keine Testdaten von…
Auf einen Blick
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Meta soll Auftragnehmer als Minderjährige getarnt haben, um KI-Konkurrenten zu sensiblen Themen zu bewegen. 6. Juli 2026. https://new.nat6.net/de/news/cmr91yrn100noslmpusn7u7q0/