AIモデルのデュアルユース知識向け「スイッチ」:AnthropicとAE StudioがGRAM手法を提唱
原題:An off switch for dual use knowledge in AI models
AI 要約
AnthropicとAE Studioは共同で勾配ルーティング補助モジュール(GRAM)手法を提唱した。Transformerの各層に取り外し可能なニューロンモジュールを追加することで、モデルはトレーニング時にウイルス学、サイバーセキュリティ、核物理学、専門プログラミング言語などのデュアルユース知識をグローバルに拡散させるのではなく、対応するモジュールにのみルーティングする。トレーニング後にモジュールを削除すればその能力を除去でき、保持すれば信頼された展開に利用できる。実験は合成データ、実データ、50Mから5Bパラメータのモデルでテストされ、GRAMの効果はデータフィルタリングと同等で、モジュール削除は汎用性能を低下させず、事後的な「忘却」技術よりも回復が難しい。この研究は、デュアルユース知識の安全なアクセスと有益な利用のバランスを取るためのより堅牢な方案を提供する。
要点
- AnthropicとAE Studioは共同で勾配ルーティング補助モジュール(GRAM)手法を提唱した。
- Transformerの各層に取り外し可能なニューロンモジュールを追加することで、モデルはトレーニング時にウイルス学、サイバーセキュリティ、核物理学、専門プログラミング言語などのデュアルユース知識を…
- トレーニング後にモジュールを削除すればその能力を除去でき、保持すれば信頼された展開に利用できる。
- 実験は合成データ、実データ、50Mから5Bパラメータのモデルでテストされ、GRAMの効果はデータフィルタリングと同等で、モジュール削除は汎用性能を低下させず、事後的な「忘却」技術よりも回復が難しい。
- この研究は、デュアルユース知識の安全なアクセスと有益な利用のバランスを取るためのより堅牢な方案を提供する
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:AIモデルのデュアルユース知識向け「スイッチ」:AnthropicとAE StudioがGRAM手法を提唱。2026年7月8日。https://new.nat6.net/ja/news/cmrcpjgf00373ihx5mtyo2fsy/