Suis untuk pengetahuan dwiguna model AI: Anthropic dan AE Studio cadang kaedah GRAM
Tajuk asal:An off switch for dual use knowledge in AI models
Ringkasan AI
Anthropic dan AE Studio bersama-sama mencadangkan kaedah Modul Bantuan Penghalaan Kecerunan (GRAM), yang menambah modul neuron boleh tanggal pada setiap lapisan Transformer supaya model semasa latihan menghalakan pengetahuan dwiguna seperti virologi, keselamatan siber, fizik nuklear dan bahasa pengaturcaraan khusus hanya ke modul berkenaan dan bukan menyebarkannya secara global. Selepas latihan, modul boleh dipadamkan untuk menghapuskan keupayaan tersebut, atau dikekalkan untuk kegunaan penggunaan yang dipercayai. Eksperimen dijalankan pada data sintetik, data sebenar dan model 50M hingga 5B parameter; keberkesanan GRAM setanding dengan penapisan data, pemadaman modul tidak mengurangkan prestasi umum, dan ia lebih sukar dipulihkan berbanding teknik 'pelupaan' selepas fakta. Kajian ini menawarkan penyelesaian yang lebih mantap untuk mengimbangi akses selamat dan penggunaan bermanfaat bagi pengetahuan dwiguna.
Maklumat penting
- Anthropic dan AE Studio bersama-sama mencadangkan kaedah Modul Bantuan Penghalaan Kecerunan…
- Selepas latihan,modul boleh dipadamkan untuk menghapuskan keupayaan tersebut,atau dikekalkan untuk…
- Eksperimen dijalankan pada data sintetik,data sebenar dan model 50M hingga 5B parameter
- keberkesanan GRAM setanding dengan penapisan data,pemadaman modul tidak mengurangkan prestasi…
- Kajian ini menawarkan penyelesaian yang lebih mantap untuk mengimbangi akses selamat dan…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Kertas penyelidikan
- Skor AI
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Suis untuk pengetahuan dwiguna model AI: Anthropic dan AE Studio cadang kaedah GRAM. 8 Julai 2026. https://new.nat6.net/ms/news/cmrcpjgf00373ihx5mtyo2fsy/