논문 및 연구

영국 AI Security Institute, Anthropic과 역대 최대 규모 데이터 오염 연구 공개

원제목:Examining backdoor data poisoning at scale

AI 요약

영국 AI Security Institute는 Anthropic, Alan Turing Institute와 협력해 역대 최대 규모의 데이터 오염 연구를 발표했다. 팀은 600M~13B 파라미터의 서로 다른 4개 규모 모델에 동일한 백도어 공격을 테스트한 결과, 문서 250편만으로 모든 피실험 모델의 훈련 데이터를 오염시킬 수 있었다. 필요한 문서 수는 모델이나 데이터셋 규모에 비례해 늘지 않아, 비례적 오염이 필요하다는 기존 가정을 뒤집었으며 오염 공격이 기존 인식보다 실행 가능성이 높음을 보여줬다.

핵심 정보

  • 영국 AI Security Institute는 Anthropic,Alan Turing Institute와 협력해 역대 최대 규모의 데이터 오염 연구를 발표했다.
  • 팀은 600M~13B 파라미터의 서로 다른 4개 규모 모델에 동일한 백도어 공격을 테스트한 결과,문서 250편만으로 모든 피실험 모델의 훈련 데이터를 오염시킬 수 있었다.
  • 필요한 문서 수는 모델이나 데이터셋 규모에 비례해 늘지 않아,비례적 오염이 필요하다는 기존 가정을 뒤집었으며 오염 공격이 기존 인식보다 실행 가능성이 높음을 보여줬다.

한눈에 보기

게시
업데이트
출처
英国 AI Security Institute:Blog(网页)
카테고리
논문 및 연구
AI 점수
67
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: 영국 AI Security Institute, Anthropic과 역대 최대 규모 데이터 오염 연구 공개. 2025년 10월 9일. https://new.nat6.net/ko/news/grawjenhg3yqy3qnmbnffiqx7/

전체 보기 →