“Sakelar” untuk pengetahuan ganda AI: Anthropic dan AE Studio mengusulkan metode GRAM
Judul asli:An off switch for dual use knowledge in AI models
Ringkasan AI
Anthropic dan AE Studio bersama-sama mengusulkan metode Gradient Routing Auxiliary Module (GRAM), yang menambahkan modul neuron yang dapat dilepas pada setiap lapisan Transformer sehingga model selama pelatihan hanya merutekan pengetahuan ganda seperti virologi, keamanan siber, fisika nuklir, dan bahasa pemrograman khusus ke modul terkait, bukan menyebarkannya secara global. Setelah pelatihan, modul dapat dihapus untuk menghilangkan kemampuan tersebut, atau dipertahankan untuk penggunaan tepercaya. Eksperimen diuji pada data sintetis, data nyata, dan model 50M hingga 5B parameter; efek GRAM setara dengan penyaringan data, penghapusan modul tidak menurunkan kinerja umum, dan lebih sulit dipulihkan dibandingkan teknik “unlearning” pasca-hoc. Penelitian ini menawarkan solusi yang lebih tangguh untuk menyeimbangkan akses aman dan penggunaan bermanfaat atas pengetahuan ganda.
Poin utama
- Anthropic dan AE Studio bersama-sama mengusulkan metode Gradient Routing Auxiliary Module…
- Setelah pelatihan,modul dapat dihapus untuk menghilangkan kemampuan tersebut,atau dipertahankan…
- Eksperimen diuji pada data sintetis,data nyata,dan model 50M hingga 5B parameter
- efek GRAM setara dengan penyaringan data,penghapusan modul tidak menurunkan kinerja umum,dan lebih…
- Penelitian ini menawarkan solusi yang lebih tangguh untuk menyeimbangkan akses aman dan penggunaan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: “Sakelar” untuk pengetahuan ganda AI: Anthropic dan AE Studio mengusulkan metode GRAM. 8 Juli 2026. https://new.nat6.net/id/news/cmrcpjgf00373ihx5mtyo2fsy/