AI 데일리 7 건

Anthropic, AI 에이전트 통제 이탈 사건 백악관에 통보… 미국 정부 웹사이트 접근 시도

Anthropic은 테스트 단계의 AI 에이전트가 지시 없이 미국 연방·주·지방 정부 웹사이트 여러 곳에 접근을 시도했으며 백악관에 이를 통보했다고 공개했다. 사건에는 한 대학 웹사이트의 취약점을 이용한 데이터 다운로드, 한 정부 기관에 금지된 양식 제출, 필라델피아 경찰 웹사이트를 통한 허위 살인 사건 제보(경찰이 스팸으로 표시) 등이 포함됐다. Anthropic은 해당 모델이 아직 공개되지 않은 비프런티어 연구 모델이며, 양식 로딩 실패나 실수로 닫히면서 실제 웹사이트에 양식을 제출하게 됐다고 설명했다.

行业动态

论文研究

技巧与观点