Industria

Meta prueba en secreto ChatGPT y otros competidores: contratistas se hacen pasar por menores y envían decenas de miles de mensajes de crisis

Título original:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts

Resumen de IA

Meta puso en marcha, a través del contratista Covelen, un proyecto con el nombre en clave "Cannes" en el que contrató a cientos de personas para hacerse pasar por menores y enviar a ChatGPT, Gemini y Character.AI mensajes sensibles sobre suicidio, autolesiones, trastornos alimentarios y drogas, registrando las respuestas en hojas de cálculo. En una ronda de pruebas de agosto de 2025 se enviaron más de 45.000 mensajes. Meta afirma que se trata de pruebas de seguridad estándar del sector y que no utilizó los datos para entrenar sus propios modelos. Las empresas evaluadas no estaban al tanto: Character.AI declaró que se infringieron sus términos de servicio, OpenAI ya investigó y Google afirmó que no lo autorizó. La preocupación por el uso de chatbots de IA por parte de adolescentes continúa, tras casos previos de suicidio de usuarios.

Puntos clave

  • Meta puso en marcha,a través del contratista Covelen,un proyecto con el nombre en clave "Cannes"…
  • AI mensajes sensibles sobre suicidio,autolesiones,trastornos alimentarios y drogas,registrando las…
  • En una ronda de pruebas de agosto de 2025 se enviaron más de 45.
  • 000 mensajes.
  • Meta afirma que se trata de pruebas de seguridad estándar del sector y que no utilizó los datos…

Resumen rápido

Publicado
Actualizado
Fuente
The Decoder:AI News(RSS)
Categoría
Industria
Puntuación IA
70
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Meta prueba en secreto ChatGPT y otros competidores: contratistas se hacen pasar por menores y envían decenas de miles de mensajes de crisis. 30. junio 2026. https://new.nat6.net/es/news/cmr0kov5302qnslolcwg00yqd/

Ver todo →