論文・研究

Anthropic、蒸留攻撃への防御を強化 推論トークンの抽出量が10〜100分の1に減少

AI 要約

Anthropicはブログを公開し、Claudeに対する蒸留攻撃への新たな防御手法を紹介した。推論内容の流出制限、2段階分類器による抽出試行の遮断、繰り返し試行するアカウントへの厳格な制限などを含む。初期の証拠では、これらの手法により蒸留者が取得する推論データが約90%から99%減少し、プラットフォーム側で抽出される推論トークン数が10〜100分の1に減った。Anthropicはまた、一部の開発者が統合を更新する必要があること、分類器の誤判定率が0.1%未満であることなど、関連措置にはトレードオフがあると説明している。

要点

  • Anthropicはブログを公開し、Claudeに対する蒸留攻撃への新たな防御手法を紹介した。
  • 推論内容の流出制限、2段階分類器による抽出試行の遮断、繰り返し試行するアカウントへの厳格な制限などを含む。
  • 初期の証拠では、これらの手法により蒸留者が取得する推論データが約90%から99%減少し、プラットフォーム側で抽出される推論トークン数が10〜100分の1に減った。
  • Anthropicはまた、一部の開発者が統合を更新する必要があること、分類器の誤判定率が0.
  • 1%未満であることなど、関連措置にはトレードオフがあると説明している

概要

公開日時
更新日時
出典
Anthropic:Research(发表成果 · 网页)
カテゴリ
論文・研究
AI スコア
77
原文を読む 情報源で全文を読む
おすすめの理由

Anthropic 公开其反蒸馏防御的具体做法和效果数据,读者可以据此了解这类防御的成本、权衡和对整个行业的借鉴意义。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Anthropic、蒸留攻撃への防御を強化 推論トークンの抽出量が10〜100分の1に減少。2026年10月12日。https://new.nat6.net/ja/news/lwchujhujmc1tdor61dn39irl/

すべて見る →