Industria

Meta habría hecho que externalizados se hicieran pasar por menores para inducir a la IA de la competencia a hablar de temas sensibles

Resumen de IA

Según Wired, Meta llevó a cabo a través de la empresa externalizada Covalen un proyecto con el nombre en clave "Cannes", en el que cientos de trabajadores externos se hicieron pasar por menores y enviaron a OpenAI ChatGPT, Google Gemini y Character.AI prompts de alto riesgo relacionados con suicidio, autolesiones y trastornos alimentarios para probar los mecanismos de bloqueo de seguridad de los chatbots rivales. El proyecto se prolongó hasta el 21 de abril y en una sola ronda se enviaron más de 45.000 prompts; los externalizados crearon cuentas falsas de menores de 18 años y subieron imágenes de pastillas y cuchillos. Meta afirma que se trata de pruebas de seguridad habituales y que no usará los datos de las pruebas con competidores para entrenar sus propios modelos.

Puntos clave

  • Según Wired,Meta llevó a cabo a través de la empresa externalizada Covalen un proyecto con el…
  • AI prompts de alto riesgo relacionados con suicidio,autolesiones y trastornos alimentarios para…
  • El proyecto se prolongó hasta el 21 de abril y en una sola ronda se enviaron más de 45.
  • 000 prompts
  • los externalizados crearon cuentas falsas de menores de 18 años y subieron imágenes de pastillas y…

Resumen rápido

Publicado
Actualizado
Fuente
IT之家·人工智能
Categoría
Industria
Puntuación IA
73
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Meta habría hecho que externalizados se hicieran pasar por menores para inducir a la IA de la competencia a hablar de temas sensibles. 6. julio 2026. https://new.nat6.net/es/news/cmr91yrn100noslmpusn7u7q0/

Ver todo →