สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรร่วมกับ Anthropic เผยแพร่งานวิจัยการวางยาพิษข้อมูลที่ใหญ่ที่สุดเท่าที่เคยมี
หัวข้อต้นฉบับ:Examining backdoor data poisoning at scale
สรุปโดย AI
สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร ร่วมมือกับ Anthropic และ Alan Turing Institute เผยแพร่งานวิจัยการวางยาพิษข้อมูลที่ใหญ่ที่สุดเท่าที่เคยมี ทีมทดสอบการโจมตี backdoor เดียวกันบนโมเดล 4 ขนาดตั้งแต่ 600M ถึง 13B พารามิเตอร์ พบว่าใช้เอกสารเพียง 250 ชิ้นก็สามารถวางยาพิษข้อมูลฝึกของโมเดลที่ทดสอบทั้งหมดได้สำเร็จ จำนวนที่ต้องใช้ไม่เพิ่มขึ้นตามขนาดโมเดลหรือชุดข้อมูล ซึ่งหักล้างสมมติฐานเดิมที่ว่าต้องวางยาพิษตามสัดส่วนจึงจะสำเร็จ และชี้ว่าการโจมตีแบบวางยาพิษอาจเป็นไปได้มากกว่าที่เคยคิด
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- 英国 AI Security Institute:Blog(网页)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 67
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: สถาบันความปลอดภัย AI แห่งสหราชอาณาจักรร่วมกับ Anthropic เผยแพร่งานวิจัยการวางยาพิษข้อมูลที่ใหญ่ที่สุดเท่าที่เคยมี 9 ตุลาคม 2025 https://new.nat6.net/th/news/grawjenhg3yqy3qnmbnffiqx7/