영국 AI Security Institute, Anthropic과 역대 최대 규모 데이터 오염 연구 공개
원제목:Examining backdoor data poisoning at scale
AI 요약
영국 AI Security Institute는 Anthropic, Alan Turing Institute와 협력해 역대 최대 규모의 데이터 오염 연구를 발표했다. 팀은 600M~13B 파라미터의 서로 다른 4개 규모 모델에 동일한 백도어 공격을 테스트한 결과, 문서 250편만으로 모든 피실험 모델의 훈련 데이터를 오염시킬 수 있었다. 필요한 문서 수는 모델이나 데이터셋 규모에 비례해 늘지 않아, 비례적 오염이 필요하다는 기존 가정을 뒤집었으며 오염 공격이 기존 인식보다 실행 가능성이 높음을 보여줬다.
핵심 정보
- 영국 AI Security Institute는 Anthropic,Alan Turing Institute와 협력해 역대 최대 규모의 데이터 오염 연구를 발표했다.
- 팀은 600M~13B 파라미터의 서로 다른 4개 규모 모델에 동일한 백도어 공격을 테스트한 결과,문서 250편만으로 모든 피실험 모델의 훈련 데이터를 오염시킬 수 있었다.
- 필요한 문서 수는 모델이나 데이터셋 규모에 비례해 늘지 않아,비례적 오염이 필요하다는 기존 가정을 뒤집었으며 오염 공격이 기존 인식보다 실행 가능성이 높음을 보여줬다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 논문 및 연구
- AI 점수
- 67
추천 이유
研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: 영국 AI Security Institute, Anthropic과 역대 최대 규모 데이터 오염 연구 공개. 2025년 10월 9일. https://new.nat6.net/ko/news/grawjenhg3yqy3qnmbnffiqx7/