Viện An ninh AI Vương quốc Anh hợp tác Anthropic công bố nghiên cứu đầu độc dữ liệu quy mô lớn nhất từ trước đến nay
Tiêu đề gốc:Examining backdoor data poisoning at scale
Tóm tắt AI
Viện An ninh AI Vương quốc Anh hợp tác với Anthropic và Viện Alan Turing công bố nghiên cứu đầu độc dữ liệu quy mô lớn nhất từ trước đến nay. Nhóm thử nghiệm cùng một cuộc tấn công backdoor trên bốn mô hình quy mô khác nhau từ 600M đến 13B tham số, phát hiện chỉ cần 250 tài liệu là đủ để đầu độc thành công dữ liệu huấn luyện của tất cả mô hình được thử nghiệm, số lượng cần thiết không tăng theo quy mô mô hình hay tập dữ liệu, lật ngược giả định trước đây rằng phải đầu độc theo tỷ lệ mới thành công, cho thấy tấn công đầu độc có thể khả thi hơn từng nghĩ.
Thông tin chính
- Viện An ninh AI Vương quốc Anh hợp tác với Anthropic và Viện Alan Turing công bố nghiên cứu đầu…
- Nhóm thử nghiệm cùng một cuộc tấn công backdoor trên bốn mô hình quy mô khác nhau từ 600M đến 13B…
- số lượng cần thiết không tăng theo quy mô mô hình hay tập dữ liệu,lật ngược giả định trước đây…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Viện An ninh AI Vương quốc Anh hợp tác Anthropic công bố nghiên cứu đầu độc dữ liệu quy mô lớn nhất từ trước đến nay. 9 tháng 10 2025. https://new.nat6.net/vi/news/grawjenhg3yqy3qnmbnffiqx7/