Индустрия

Meta, по данным СМИ, заставляла подрядчиков выдавать себя за несовершеннолетних и провоцировать ИИ конкурентов на чувствительные темы

ИИ-резюме

По данным Wired, Meta через подрядчика Covalen вела проект под кодовым названием «Cannes»: сотни подрядчиков выдавали себя за несовершеннолетних и отправляли в OpenAI ChatGPT, Google Gemini и Character.AI высокорисковые промпты о самоубийстве, самоповреждении и расстройствах пищевого поведения, чтобы проверить механизмы блокировки чат-ботов конкурентов. Проект продолжался до 21 апреля, за один раунд отправлялось более 45 тыс. промптов, подрядчики создавали фальшивые аккаунты для лиц младше 18 лет и загружали изображения таблеток, ножей и др. Meta называет это обычным тестированием безопасности и утверждает, что не использует данные тестов конкурентов для обучения своих моделей.

Ключевые моменты

  • По данным Wired,Meta через подрядчика Covalen вела проект под кодовым названием «Cannes»: сотни…
  • AI высокорисковые промпты о самоубийстве,самоповреждении и расстройствах пищевого поведения,чтобы…
  • Проект продолжался до 21 апреля,за один раунд отправлялось более 45 тыс.
  • промптов,подрядчики создавали фальшивые аккаунты для лиц младше 18 лет и загружали изображения…
  • Meta называет это обычным тестированием безопасности и утверждает,что не использует данные тестов…

Кратко

Опубликовано
Обновлено
Источник
IT之家·人工智能
Категория
Индустрия
Оценка ИИ
73
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Meta, по данным СМИ, заставляла подрядчиков выдавать себя за несовершеннолетних и провоцировать ИИ конкурентов на чувствительные темы. 6 июля 2026. https://new.nat6.net/ru/news/cmr91yrn100noslmpusn7u7q0/

Смотреть все →