Branche

Meta testet heimlich ChatGPT und Wettbewerber: Auftragnehmer geben sich als Minderjährige aus und senden Zehntausende Krisen-Prompts

Originaltitel:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts

KI-Zusammenfassung

Meta startete über den Auftragnehmer Covelen ein Projekt mit dem Codenamen „Cannes“ und beschäftigte Hunderte Personen, die sich als Minderjährige ausgaben und sensible Prompts zu Suizid, Selbstverletzung, Essstörungen und Drogen an ChatGPT, Gemini und Character.AI sandten und die Antworten in Tabellen erfassten. In einer Testrunde im August 2025 wurden mehr als 45.000 Prompts versendet. Meta bezeichnet dies als branchenüblichen Sicherheitstest und gibt an, die Daten nicht zum Training eigener Modelle zu verwenden. Die getesteten Unternehmen waren nicht informiert – Character.AI erklärte, dies verstoße gegen seine Nutzungsbedingungen; OpenAI hat Untersuchungen eingeleitet, Google erklärte, keine Genehmigung erteilt zu haben. Die Sorge über die Nutzung von KI-Chatbots durch Jugendliche hält an; zuvor hatte es bereits Suizidfälle von Nutzern gegeben.

Kernpunkte

  • Meta startete über den Auftragnehmer Covelen ein Projekt mit dem Codenamen „Cannes“ und…
  • AI sandten und die Antworten in Tabellen erfassten.
  • In einer Testrunde im August 2025 wurden mehr als 45.
  • 000 Prompts versendet.
  • Meta bezeichnet dies als branchenüblichen Sicherheitstest und gibt an,die Daten nicht zum Training…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
The Decoder:AI News(RSS)
Kategorie
Branche
KI-Bewertung
70
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Meta testet heimlich ChatGPT und Wettbewerber: Auftragnehmer geben sich als Minderjährige aus und senden Zehntausende Krisen-Prompts. 30. Juni 2026. https://new.nat6.net/de/news/cmr0kov5302qnslolcwg00yqd/

Alle ansehen →