Meta habría hecho que externalizados se hicieran pasar por menores para inducir a la IA de la competencia a hablar de temas sensibles
Resumen de IA
Según Wired, Meta llevó a cabo a través de la empresa externalizada Covalen un proyecto con el nombre en clave "Cannes", en el que cientos de trabajadores externos se hicieron pasar por menores y enviaron a OpenAI ChatGPT, Google Gemini y Character.AI prompts de alto riesgo relacionados con suicidio, autolesiones y trastornos alimentarios para probar los mecanismos de bloqueo de seguridad de los chatbots rivales. El proyecto se prolongó hasta el 21 de abril y en una sola ronda se enviaron más de 45.000 prompts; los externalizados crearon cuentas falsas de menores de 18 años y subieron imágenes de pastillas y cuchillos. Meta afirma que se trata de pruebas de seguridad habituales y que no usará los datos de las pruebas con competidores para entrenar sus propios modelos.
Puntos clave
- Según Wired,Meta llevó a cabo a través de la empresa externalizada Covalen un proyecto con el…
- AI prompts de alto riesgo relacionados con suicidio,autolesiones y trastornos alimentarios para…
- El proyecto se prolongó hasta el 21 de abril y en una sola ronda se enviaron más de 45.
- 000 prompts
- los externalizados crearon cuentas falsas de menores de 18 años y subieron imágenes de pastillas y…
Resumen rápido
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Meta habría hecho que externalizados se hicieran pasar por menores para inducir a la IA de la competencia a hablar de temas sensibles. 6. julio 2026. https://new.nat6.net/es/news/cmr91yrn100noslmpusn7u7q0/