Bài báo & nghiên cứu

“Công tắc” cho kiến thức lưỡng dụng của mô hình AI: Anthropic và AE Studio đề xuất phương pháp GRAM

Tiêu đề gốc:An off switch for dual use knowledge in AI models

Tóm tắt AI

Anthropic và AE Studio cùng đề xuất phương pháp mô-đun hỗ trợ định tuyến gradient (GRAM), bằng cách thêm mô-đun neuron có thể gỡ bỏ vào mỗi lớp Transformer, giúp mô hình khi huấn luyện chỉ định tuyến kiến thức lưỡng dụng như virus học, an ninh mạng, vật lý hạt nhân, ngôn ngữ lập trình chuyên nghiệp vào mô-đun tương ứng thay vì lan tỏa toàn cục. Sau huấn luyện, gỡ mô-đun sẽ loại bỏ năng lực đó, giữ lại thì dùng cho triển khai tin cậy. Thử nghiệm trên dữ liệu tổng hợp, dữ liệu thực và mô hình 50M đến 5B tham số cho thấy GRAM hiệu quả tương đương lọc dữ liệu, gỡ mô-đun không giảm hiệu năng tổng quát và khó khôi phục hơn kỹ thuật “quên” sau huấn luyện. Nghiên cứu cung cấp giải pháp bền vững hơn để cân bằng truy cập an toàn và sử dụng có lợi kiến thức lưỡng dụng.

Thông tin chính

  • Anthropic và AE Studio cùng đề xuất phương pháp mô-đun hỗ trợ định tuyến gradient (GRAM),bằng cách…
  • Sau huấn luyện,gỡ mô-đun sẽ loại bỏ năng lực đó,giữ lại thì dùng cho triển khai tin cậy.
  • Thử nghiệm trên dữ liệu tổng hợp,dữ liệu thực và mô hình 50M đến 5B tham số cho thấy GRAM hiệu quả…
  • Nghiên cứu cung cấp giải pháp bền vững hơn để cân bằng truy cập an toàn và sử dụng có lợi kiến…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Research(发表成果 · 网页)
Danh mục
Bài báo & nghiên cứu
Điểm AI
68
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: “Công tắc” cho kiến thức lưỡng dụng của mô hình AI: Anthropic và AE Studio đề xuất phương pháp GRAM. 8 tháng 7 2026. https://new.nat6.net/vi/news/cmrcpjgf00373ihx5mtyo2fsy/

Xem tất cả →