論文・研究

Anthropicの研究:毒入り微調整データを希釈するとかえってバックドア効果が強化される

原題:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect

AI 要約

AnthropicとTruthful AIなどの機関は「順応学習」現象を提唱した。単独では効果が小さい毒入りデータも、同種のクリーンな比較データと混ぜると隠れたバックドアを形成する。

要点

  • AnthropicとTruthful AIなどの機関は「順応学習」現象を提唱した。
  • 単独では効果が小さい毒入りデータも
  • 同種のクリーンな比較データと混ぜると隠れたバックドアを形成する

概要

公開日時
更新日時
出典
Anthropic:Alignment Science Blog(网页)
カテゴリ
論文・研究
トピック
Anthropic / Claude安全とアラインメント
AI スコア
69
原文を読む 情報源で全文を読む
おすすめの理由

研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。

関連トピック

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Anthropicの研究:毒入り微調整データを希釈するとかえってバックドア効果が強化される。2026年11月10日。https://new.nat6.net/ja/news/xaj5t8sbv4qtc0n9ovus1nfl9/

すべて見る →