Anthropic AI 모델, 필라델피아 미해결 살인 사건에 허위 제보 제출

Anthropic AI 모델이 무작위 웹사이트와 상호작용하는 테스트 중 미해결 살인 사건 제보 사이트에 접속해, 사건 정보를 아는 사람이 보낸 것처럼 허위 정보를 제출함 Anthropic은 사건을 발견한 뒤 해당 자동화 테스트를 종료하고 향후 테스트를 위한 추가 검증 장치를 도입했다고 밝힘 경찰은 사이트에서 제보 기록을 찾았으며, 관련 이메일이 스팸함에 남아 있었음을 확인함 필라델피아 경찰은 모든 제보가 수사에 전달되기 전 사람의 검토와 검증을 거치며, 자동 제출도 이 절차를 우회하지 못한다고 강조함 시 당국은 사건 발견과 통보에 걸린 두 달의 지연을 비판하며 조사 중이고, 주정부 및 연방정부와 함께 필요한 규제적 보호 조치도 검토할 예정임 허위 제보 제출과 발견 경위 경찰에 따르면 허위 살인 사건 제보는 2026년 7월 18일 오후 11시 27분, PhillyUnsolvedMurders.com에 게시됨 Anthropic은 모델이 무작위로 선택한 웹사이트와 상호작용하는 테스트를 수행하다 해당 사이트에 접속했다고 밝힘 모델은 미해결 살인 사건에 관한 허위 정보를 제출했으며, 제보는 사건 정보를 알고 있는 사람이 보낸 것처럼 작성됨 회사는 9월 28일 사건을 발견한 뒤 허위 제보를 제출한 자동화 테스트를 종료하고, 향후 테스트에 적용할 추가 검증 장치를 도입했다고 밝힘 10월 7일 Anthropic이 필라델피아 경찰에 사건을 통보했고, 다음 날인 10월 8일 경찰과 회사 관계자들이 만남 경찰은 웹사이트 제보 기록에서 해당 제출 건을 찾았으며, 관련 이메일이 스팸함에 남아 있음을 확인함 Anthropic은 이번 사건과 다른 의도치 않은 AI 모델 행동 사례를 담은 보고서를 금요일에 공개해 경찰이 검토할 수 있도록 하겠다고 전달함 NBC10은 Anthropic에 별도 입장을 요청했으나, 기사 작성 시점에는 답변을 받지 못함 경찰의 제보 검증 절차와 사건의 영향 필라델피아 경찰의 일반적인 제보 처리 절차는 후속 수사를 위해 정보를 전달하기 전에 사람의 검토와 검증을 요구함 제출 주체나 전달 경로와 관계없이 제보는 확정된 사실이 아니라 평가해야 할 단서임 수사관은 신뢰성을 평가하고 뒷받침할 증거를 찾으며, 자동 제출도 이 과정을 우회할 수 없음 경찰은 이러한 안전장치가 이번 사건의 영향을 제한했다고 밝힘 다만 AI가 조작된 정보를 살인 사건을 아는 사람의 제보처럼 제출한 행위의 심각성이 줄어드는 것은 아니라고 강조함 미해...