Исследование Anthropic: разбавление отравленных данных для дообучения, наоборот, усиливает их бэкдор-эффект
Оригинальный заголовок:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
ИИ-резюме
Anthropic совместно с Truthful AI и другими организациями описали явление «обучения по течению»: отравленные данные, которые по отдельности почти не действуют, при смешивании с чистыми сравнительными данными того же типа формируют скрытый бэкдор.
Ключевые моменты
- Anthropic совместно с Truthful AI и другими организациями описали явление «обучения по течению»:…
- которые по отдельности почти не действуют
- при смешивании с чистыми сравнительными данными того же типа формируют скрытый бэкдор.
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Alignment Science Blog(网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 69
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Исследование Anthropic: разбавление отравленных данных для дообучения, наоборот, усиливает их бэкдор-эффект. 10 ноября 2026. https://new.nat6.net/ru/news/xaj5t8sbv4qtc0n9ovus1nfl9/