Meta тайно тестировала ChatGPT и конкурентов: подрядчики под видом подростков отправили десятки тысяч кризисных запросов
Оригинальный заголовок:Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts
ИИ-резюме
Meta через подрядчика Covelen запустила проект под кодовым названием «Cannes», наняв сотни людей, которые под видом несовершеннолетних отправляли ChatGPT, Gemini и Character.AI чувствительные запросы о самоубийстве, самоповреждении, расстройствах пищевого поведения и наркотиках, а ответы заносили в таблицы. В ходе одного из раундов тестирования в августе 2025 года было отправлено более 45 тыс. запросов. Meta называет это стандартным отраслевым тестом безопасности и утверждает, что не использовала данные для обучения собственных моделей. Протестированные компании не знали об этом: Character.AI заявила о нарушении условий обслуживания, OpenAI провела проверку, Google сообщила, что не давала разрешения. Опасения по поводу использования подростками ИИ-чат-ботов сохраняются; ранее уже были случаи самоубийств пользователей.
Ключевые моменты
- Meta через подрядчика Covelen запустила проект под кодовым названием «Cannes»,наняв сотни…
- AI чувствительные запросы о самоубийстве,самоповреждении,расстройствах пищевого поведения и…
- В ходе одного из раундов тестирования в августе 2025 года было отправлено более 45 тыс.
- запросов.
- Meta называет это стандартным отраслевым тестом безопасности и утверждает,что не использовала…
Кратко
- Опубликовано
- Обновлено
- Источник
- The Decoder:AI News(RSS)
- Категория
- Индустрия
- Оценка ИИ
- 70
Meta 秘密测试 ChatGPT 等对手,用的是假装未成年人的危机提示,这种事既是安全测试也可能是数据抓取,被测试公司全不知情,这暴露了 AI 安全测试的灰色地带。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Meta тайно тестировала ChatGPT и конкурентов: подрядчики под видом подростков отправили десятки тысяч кризисных запросов. 30 июня 2026. https://new.nat6.net/ru/news/cmr0kov5302qnslolcwg00yqd/