Статьи и исследования

AI Security Institute Великобритании совместно с Anthropic опубликовал крупнейшее на сегодня исследование отравления данных

Оригинальный заголовок:Examining backdoor data poisoning at scale

ИИ-резюме

AI Security Institute Великобритании совместно с Anthropic и Alan Turing Institute опубликовал крупнейшее на сегодня исследование отравления данных. Команда протестировала одну и ту же бэкдор-атаку на четырёх моделях разного масштаба — от 600M до 13B параметров — и обнаружила, что для успешного отравления обучающих данных всех протестированных моделей достаточно всего 250 документов; необходимое количество не растёт с масштабом модели или набора данных, что опровергает прежнее предположение о необходимости пропорционального отравления и указывает на то, что атаки отравления могут быть более осуществимыми, чем считалось ранее.

Ключевые моменты

  • AI Security Institute Великобритании совместно с Anthropic и Alan Turing Institute опубликовал…
  • Команда протестировала одну и ту же бэкдор-атаку на четырёх моделях разного масштаба — от 600M до…
  • необходимое количество не растёт с масштабом модели или набора данных,что опровергает прежнее…

Кратко

Опубликовано
Обновлено
Источник
英国 AI Security Institute:Blog(网页)
Категория
Статьи и исследования
Оценка ИИ
67
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: AI Security Institute Великобритании совместно с Anthropic опубликовал крупнейшее на сегодня исследование отравления данных. 9 октября 2025. https://new.nat6.net/ru/news/grawjenhg3yqy3qnmbnffiqx7/

Смотреть все →