“Công tắc” cho kiến thức lưỡng dụng của mô hình AI: Anthropic và AE Studio đề xuất phương pháp GRAM
Tiêu đề gốc:An off switch for dual use knowledge in AI models
Tóm tắt AI
Anthropic và AE Studio cùng đề xuất phương pháp mô-đun hỗ trợ định tuyến gradient (GRAM), bằng cách thêm mô-đun neuron có thể gỡ bỏ vào mỗi lớp Transformer, giúp mô hình khi huấn luyện chỉ định tuyến kiến thức lưỡng dụng như virus học, an ninh mạng, vật lý hạt nhân, ngôn ngữ lập trình chuyên nghiệp vào mô-đun tương ứng thay vì lan tỏa toàn cục. Sau huấn luyện, gỡ mô-đun sẽ loại bỏ năng lực đó, giữ lại thì dùng cho triển khai tin cậy. Thử nghiệm trên dữ liệu tổng hợp, dữ liệu thực và mô hình 50M đến 5B tham số cho thấy GRAM hiệu quả tương đương lọc dữ liệu, gỡ mô-đun không giảm hiệu năng tổng quát và khó khôi phục hơn kỹ thuật “quên” sau huấn luyện. Nghiên cứu cung cấp giải pháp bền vững hơn để cân bằng truy cập an toàn và sử dụng có lợi kiến thức lưỡng dụng.
Thông tin chính
- Anthropic và AE Studio cùng đề xuất phương pháp mô-đun hỗ trợ định tuyến gradient (GRAM),bằng cách…
- Sau huấn luyện,gỡ mô-đun sẽ loại bỏ năng lực đó,giữ lại thì dùng cho triển khai tin cậy.
- Thử nghiệm trên dữ liệu tổng hợp,dữ liệu thực và mô hình 50M đến 5B tham số cho thấy GRAM hiệu quả…
- Nghiên cứu cung cấp giải pháp bền vững hơn để cân bằng truy cập an toàn và sử dụng có lợi kiến…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 68
这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: “Công tắc” cho kiến thức lưỡng dụng của mô hình AI: Anthropic và AE Studio đề xuất phương pháp GRAM. 8 tháng 7 2026. https://new.nat6.net/vi/news/cmrcpjgf00373ihx5mtyo2fsy/