Статьи и исследования

Исследование Anthropic: разбавление отравленных данных для дообучения, наоборот, усиливает их бэкдор-эффект

Оригинальный заголовок:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect

ИИ-резюме

Anthropic совместно с Truthful AI и другими организациями описали явление «обучения по течению»: отравленные данные, которые по отдельности почти не действуют, при смешивании с чистыми сравнительными данными того же типа формируют скрытый бэкдор.

Ключевые моменты

  • Anthropic совместно с Truthful AI и другими организациями описали явление «обучения по течению»:…
  • которые по отдельности почти не действуют
  • при смешивании с чистыми сравнительными данными того же типа формируют скрытый бэкдор.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Alignment Science Blog(网页)
Категория
Статьи и исследования
Тема
Anthropic / ClaudeБезопасность и выравнивание
Оценка ИИ
69
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Исследование Anthropic: разбавление отравленных данных для дообучения, наоборот, усиливает их бэкдор-эффект. 10 ноября 2026. https://new.nat6.net/ru/news/xaj5t8sbv4qtc0n9ovus1nfl9/

Смотреть все →