Mga Papel at Pananaliksik

“Switch” para sa dual-use knowledge ng AI models: iminungkahi ng Anthropic at AE Studio ang GRAM method

Orihinal na pamagat:An off switch for dual use knowledge in AI models

AI summary

Magkasamang iminungkahi ng Anthropic at AE Studio ang Gradient Routing Auxiliary Module (GRAM) method, kung saan nagdaragdag ng removable neuron modules sa bawat layer ng Transformer para ang modelo, sa panahon ng pagsasanay, ay i-route lamang ang dual-use knowledge tulad ng virology, cybersecurity, nuclear physics, at specialized programming languages sa kaukulang module sa halip na ipalaganap ito sa buong modelo. Matapos ang pagsasanay, maaaring alisin ang module para maalis ang kakayahang iyon, o panatilihin ito para sa trusted deployment. Sinubukan sa synthetic data, real data, at mga modelong may 50M hanggang 5B parameters; ang GRAM ay katumbas ng data filtering, hindi binabawasan ng pag-alis ng module ang general performance, at mas mahirap itong ibalik kaysa sa post-hoc na “forgetting” techniques. Nagbibigay ang pananaliksik na ito ng mas matibay na solusyon para balansehin ang secure access at kapaki-pakinabang na paggamit ng dual-use knowledge.

Mahahalagang impormasyon

  • Magkasamang iminungkahi ng Anthropic at AE Studio ang Gradient Routing Auxiliary Module (GRAM)…
  • Matapos ang pagsasanay,maaaring alisin ang module para maalis ang kakayahang iyon,o panatilihin…
  • Sinubukan sa synthetic data,real data,at mga modelong may 50M hanggang 5B parameters
  • ang GRAM ay katumbas ng data filtering,hindi binabawasan ng pag-alis ng module ang general…
  • Nagbibigay ang pananaliksik na ito ng mas matibay na solusyon para balansehin ang secure access at…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Anthropic:Research(发表成果 · 网页)
Kategorya
Mga Papel at Pananaliksik
AI na marka
68
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: “Switch” para sa dual-use knowledge ng AI models: iminungkahi ng Anthropic at AE Studio ang GRAM method. 8 Hulyo 2026. https://new.nat6.net/fil/news/cmrcpjgf00373ihx5mtyo2fsy/

Tingnan lahat →