Meta testet heimlich ChatGPT und Wettbewerber: Auftragnehmer geben sich als Minderjährige aus und senden Zehntausende Krisen-Prompts
Originaltitel:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
KI-Zusammenfassung
Meta startete über den Auftragnehmer Covelen ein Projekt mit dem Codenamen „Cannes“ und beschäftigte Hunderte Personen, die sich als Minderjährige ausgaben und sensible Prompts zu Suizid, Selbstverletzung, Essstörungen und Drogen an ChatGPT, Gemini und Character.AI sandten und die Antworten in Tabellen erfassten. In einer Testrunde im August 2025 wurden mehr als 45.000 Prompts versendet. Meta bezeichnet dies als branchenüblichen Sicherheitstest und gibt an, die Daten nicht zum Training eigener Modelle zu verwenden. Die getesteten Unternehmen waren nicht informiert – Character.AI erklärte, dies verstoße gegen seine Nutzungsbedingungen; OpenAI hat Untersuchungen eingeleitet, Google erklärte, keine Genehmigung erteilt zu haben. Die Sorge über die Nutzung von KI-Chatbots durch Jugendliche hält an; zuvor hatte es bereits Suizidfälle von Nutzern gegeben.
Kernpunkte
- Meta startete über den Auftragnehmer Covelen ein Projekt mit dem Codenamen „Cannes“ und…
- AI sandten und die Antworten in Tabellen erfassten.
- In einer Testrunde im August 2025 wurden mehr als 45.
- 000 Prompts versendet.
- Meta bezeichnet dies als branchenüblichen Sicherheitstest und gibt an,die Daten nicht zum Training…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- The Decoder:AI News(RSS)
- Kategorie
- Branche
- KI-Bewertung
- 70
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Meta testet heimlich ChatGPT und Wettbewerber: Auftragnehmer geben sich als Minderjährige aus und senden Zehntausende Krisen-Prompts. 30. Juni 2026. https://new.nat6.net/de/news/cmr0kov5302qnslolcwg00yqd/