“Switch” para sa dual-use knowledge ng AI models: iminungkahi ng Anthropic at AE Studio ang GRAM method
Orihinal na pamagat:An off switch for dual use knowledge in AI models
AI summary
Magkasamang iminungkahi ng Anthropic at AE Studio ang Gradient Routing Auxiliary Module (GRAM) method, kung saan nagdaragdag ng removable neuron modules sa bawat layer ng Transformer para ang modelo, sa panahon ng pagsasanay, ay i-route lamang ang dual-use knowledge tulad ng virology, cybersecurity, nuclear physics, at specialized programming languages sa kaukulang module sa halip na ipalaganap ito sa buong modelo. Matapos ang pagsasanay, maaaring alisin ang module para maalis ang kakayahang iyon, o panatilihin ito para sa trusted deployment. Sinubukan sa synthetic data, real data, at mga modelong may 50M hanggang 5B parameters; ang GRAM ay katumbas ng data filtering, hindi binabawasan ng pag-alis ng module ang general performance, at mas mahirap itong ibalik kaysa sa post-hoc na “forgetting” techniques. Nagbibigay ang pananaliksik na ito ng mas matibay na solusyon para balansehin ang secure access at kapaki-pakinabang na paggamit ng dual-use knowledge.
Mahahalagang impormasyon
- Magkasamang iminungkahi ng Anthropic at AE Studio ang Gradient Routing Auxiliary Module (GRAM)…
- Matapos ang pagsasanay,maaaring alisin ang module para maalis ang kakayahang iyon,o panatilihin…
- Sinubukan sa synthetic data,real data,at mga modelong may 50M hanggang 5B parameters
- ang GRAM ay katumbas ng data filtering,hindi binabawasan ng pag-alis ng module ang general…
- Nagbibigay ang pananaliksik na ito ng mas matibay na solusyon para balansehin ang secure access at…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Anthropic:Research(发表成果 · 网页)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: “Switch” para sa dual-use knowledge ng AI models: iminungkahi ng Anthropic at AE Studio ang GRAM method. 8 Hulyo 2026. https://new.nat6.net/fil/news/cmrcpjgf00373ihx5mtyo2fsy/