Anthropicの研究:毒入り微調整データを希釈するとかえってバックドア効果が強化される
原題:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
AI 要約
AnthropicとTruthful AIなどの機関は「順応学習」現象を提唱した。単独では効果が小さい毒入りデータも、同種のクリーンな比較データと混ぜると隠れたバックドアを形成する。
要点
- AnthropicとTruthful AIなどの機関は「順応学習」現象を提唱した。
- 単独では効果が小さい毒入りデータも
- 同種のクリーンな比較データと混ぜると隠れたバックドアを形成する
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 69
おすすめの理由
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Anthropicの研究:毒入り微調整データを希釈するとかえってバックドア効果が強化される。2026年11月10日。https://new.nat6.net/ja/news/xaj5t8sbv4qtc0n9ovus1nfl9/