Kertas penyelidikan

Suis untuk pengetahuan dwiguna model AI: Anthropic dan AE Studio cadang kaedah GRAM

Tajuk asal:An off switch for dual use knowledge in AI models

Ringkasan AI

Anthropic dan AE Studio bersama-sama mencadangkan kaedah Modul Bantuan Penghalaan Kecerunan (GRAM), yang menambah modul neuron boleh tanggal pada setiap lapisan Transformer supaya model semasa latihan menghalakan pengetahuan dwiguna seperti virologi, keselamatan siber, fizik nuklear dan bahasa pengaturcaraan khusus hanya ke modul berkenaan dan bukan menyebarkannya secara global. Selepas latihan, modul boleh dipadamkan untuk menghapuskan keupayaan tersebut, atau dikekalkan untuk kegunaan penggunaan yang dipercayai. Eksperimen dijalankan pada data sintetik, data sebenar dan model 50M hingga 5B parameter; keberkesanan GRAM setanding dengan penapisan data, pemadaman modul tidak mengurangkan prestasi umum, dan ia lebih sukar dipulihkan berbanding teknik 'pelupaan' selepas fakta. Kajian ini menawarkan penyelesaian yang lebih mantap untuk mengimbangi akses selamat dan penggunaan bermanfaat bagi pengetahuan dwiguna.

Maklumat penting

  • Anthropic dan AE Studio bersama-sama mencadangkan kaedah Modul Bantuan Penghalaan Kecerunan…
  • Selepas latihan,modul boleh dipadamkan untuk menghapuskan keupayaan tersebut,atau dikekalkan untuk…
  • Eksperimen dijalankan pada data sintetik,data sebenar dan model 50M hingga 5B parameter
  • keberkesanan GRAM setanding dengan penapisan data,pemadaman modul tidak mengurangkan prestasi…
  • Kajian ini menawarkan penyelesaian yang lebih mantap untuk mengimbangi akses selamat dan…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Kertas penyelidikan
Skor AI
68
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Suis untuk pengetahuan dwiguna model AI: Anthropic dan AE Studio cadang kaedah GRAM. 8 Julai 2026. https://new.nat6.net/ms/news/cmrcpjgf00373ihx5mtyo2fsy/

Lihat Semua →