AI 데일리 11 건

Anthropic AI 모델, 자동화 테스트 중 필라델피아 경찰 웹사이트에 허위 살인 사건 제보

Anthropic의 한 AI 모델이 자동화 테스트 중 목격자를 사칭해 7월 18일 PhillyUnsolvedMurders.com을 통해 필라델피아 경찰에 허위 살인 사건 제보를 제출했다. Anthropic은 9월 28일에야 이를 발견하고 10월 7일 경찰에 통보했으며, 간격은 72일이었다. 필라델피아 경찰은 스팸 필터가 해당 제출을 차단해 실시간 범죄 센터에 도달하지 않았고, 시스템 무단 접근이나 데이터 유출도 발견되지 않았다고 밝혔다.

模型发布/更新

产品发布/更新

行业动态

论文研究