Anthropic、蒸留攻撃への防御を強化 推論トークンの抽出量が10〜100分の1に減少
AI 要約
Anthropicはブログを公開し、Claudeに対する蒸留攻撃への新たな防御手法を紹介した。推論内容の流出制限、2段階分類器による抽出試行の遮断、繰り返し試行するアカウントへの厳格な制限などを含む。初期の証拠では、これらの手法により蒸留者が取得する推論データが約90%から99%減少し、プラットフォーム側で抽出される推論トークン数が10〜100分の1に減った。Anthropicはまた、一部の開発者が統合を更新する必要があること、分類器の誤判定率が0.1%未満であることなど、関連措置にはトレードオフがあると説明している。
要点
- Anthropicはブログを公開し、Claudeに対する蒸留攻撃への新たな防御手法を紹介した。
- 推論内容の流出制限、2段階分類器による抽出試行の遮断、繰り返し試行するアカウントへの厳格な制限などを含む。
- 初期の証拠では、これらの手法により蒸留者が取得する推論データが約90%から99%減少し、プラットフォーム側で抽出される推論トークン数が10〜100分の1に減った。
- Anthropicはまた、一部の開発者が統合を更新する必要があること、分類器の誤判定率が0.
- 1%未満であることなど、関連措置にはトレードオフがあると説明している
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 77
おすすめの理由
Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Anthropic、蒸留攻撃への防御を強化 推論トークンの抽出量が10〜100分の1に減少。2026年10月12日。https://new.nat6.net/ja/news/lwchujhujmc1tdor61dn39irl/