Bài báo & nghiên cứu

Viện An ninh AI Vương quốc Anh hợp tác Anthropic công bố nghiên cứu đầu độc dữ liệu quy mô lớn nhất từ trước đến nay

Tiêu đề gốc:Examining backdoor data poisoning at scale

Tóm tắt AI

Viện An ninh AI Vương quốc Anh hợp tác với Anthropic và Viện Alan Turing công bố nghiên cứu đầu độc dữ liệu quy mô lớn nhất từ trước đến nay. Nhóm thử nghiệm cùng một cuộc tấn công backdoor trên bốn mô hình quy mô khác nhau từ 600M đến 13B tham số, phát hiện chỉ cần 250 tài liệu là đủ để đầu độc thành công dữ liệu huấn luyện của tất cả mô hình được thử nghiệm, số lượng cần thiết không tăng theo quy mô mô hình hay tập dữ liệu, lật ngược giả định trước đây rằng phải đầu độc theo tỷ lệ mới thành công, cho thấy tấn công đầu độc có thể khả thi hơn từng nghĩ.

Thông tin chính

  • Viện An ninh AI Vương quốc Anh hợp tác với Anthropic và Viện Alan Turing công bố nghiên cứu đầu…
  • Nhóm thử nghiệm cùng một cuộc tấn công backdoor trên bốn mô hình quy mô khác nhau từ 600M đến 13B…
  • số lượng cần thiết không tăng theo quy mô mô hình hay tập dữ liệu,lật ngược giả định trước đây…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
英国 AI Security Institute:Blog(网页)
Danh mục
Bài báo & nghiên cứu
Điểm AI
67
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Viện An ninh AI Vương quốc Anh hợp tác Anthropic công bố nghiên cứu đầu độc dữ liệu quy mô lớn nhất từ trước đến nay. 9 tháng 10 2025. https://new.nat6.net/vi/news/grawjenhg3yqy3qnmbnffiqx7/

Xem tất cả →