Meta, по данным СМИ, заставляла подрядчиков выдавать себя за несовершеннолетних и провоцировать ИИ конкурентов на чувствительные темы
ИИ-резюме
По данным Wired, Meta через подрядчика Covalen вела проект под кодовым названием «Cannes»: сотни подрядчиков выдавали себя за несовершеннолетних и отправляли в OpenAI ChatGPT, Google Gemini и Character.AI высокорисковые промпты о самоубийстве, самоповреждении и расстройствах пищевого поведения, чтобы проверить механизмы блокировки чат-ботов конкурентов. Проект продолжался до 21 апреля, за один раунд отправлялось более 45 тыс. промптов, подрядчики создавали фальшивые аккаунты для лиц младше 18 лет и загружали изображения таблеток, ножей и др. Meta называет это обычным тестированием безопасности и утверждает, что не использует данные тестов конкурентов для обучения своих моделей.
Ключевые моменты
- По данным Wired,Meta через подрядчика Covalen вела проект под кодовым названием «Cannes»: сотни…
- AI высокорисковые промпты о самоубийстве,самоповреждении и расстройствах пищевого поведения,чтобы…
- Проект продолжался до 21 апреля,за один раунд отправлялось более 45 тыс.
- промптов,подрядчики создавали фальшивые аккаунты для лиц младше 18 лет и загружали изображения…
- Meta называет это обычным тестированием безопасности и утверждает,что не использует данные тестов…
Кратко
Meta用外包人员伪装未成年人测试竞品AI,这事撕开了AI安全测试的灰色地带,暴露了聊天机器人面对极端儿童话题时的脆弱性,比任何安全白皮书都更有冲击力。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Meta, по данным СМИ, заставляла подрядчиков выдавать себя за несовершеннолетних и провоцировать ИИ конкурентов на чувствительные темы. 6 июля 2026. https://new.nat6.net/ru/news/cmr91yrn100noslmpusn7u7q0/