Meta prueba en secreto ChatGPT y otros competidores: contratistas se hacen pasar por menores y envían decenas de miles de mensajes de crisis
Título original:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
Resumen de IA
Meta puso en marcha, a través del contratista Covelen, un proyecto con el nombre en clave "Cannes" en el que contrató a cientos de personas para hacerse pasar por menores y enviar a ChatGPT, Gemini y Character.AI mensajes sensibles sobre suicidio, autolesiones, trastornos alimentarios y drogas, registrando las respuestas en hojas de cálculo. En una ronda de pruebas de agosto de 2025 se enviaron más de 45.000 mensajes. Meta afirma que se trata de pruebas de seguridad estándar del sector y que no utilizó los datos para entrenar sus propios modelos. Las empresas evaluadas no estaban al tanto: Character.AI declaró que se infringieron sus términos de servicio, OpenAI ya investigó y Google afirmó que no lo autorizó. La preocupación por el uso de chatbots de IA por parte de adolescentes continúa, tras casos previos de suicidio de usuarios.
Puntos clave
- Meta puso en marcha,a través del contratista Covelen,un proyecto con el nombre en clave "Cannes"…
- AI mensajes sensibles sobre suicidio,autolesiones,trastornos alimentarios y drogas,registrando las…
- En una ronda de pruebas de agosto de 2025 se enviaron más de 45.
- 000 mensajes.
- Meta afirma que se trata de pruebas de seguridad estándar del sector y que no utilizó los datos…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- The Decoder:AI News(RSS)
- Categoría
- Industria
- Puntuación IA
- 70
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Meta prueba en secreto ChatGPT y otros competidores: contratistas se hacen pasar por menores y envían decenas de miles de mensajes de crisis. 30. junio 2026. https://new.nat6.net/es/news/cmr0kov5302qnslolcwg00yqd/