AI스페라 “AI는 수사 지원도구…판단·책임은 인간 몫”

인공지능(AI)이 전 영역에서 폭넓게 활용되는 가운데 수사 분야에서는 보조 수단으로만 활용해야 한다는 진단이 나왔다. AI에 판단 권한을 넘기는 것을 경계하고, 최종 결정은 인간이 맡아야 한다는 것이다.

강병탁 AI스페라 대표는 최근 한국범죄학회와 한국융합보안학회가 공동 개최한 하계학술대회 특별세션 전문가 토론에 참여해 AI 기반 디지털 포렌식의 책임 문제와 보안기술 활용 방향을 논의했다고 10일 밝혔다.

강 대표는 “AI가 수사 과정의 최종 판단자가 아니라 의사결정을 지원하는 도구로 활용돼야 한다”고 밝혔다. AI 기반 수사기술을 사용하더라도 최종 판단과 법적 책임은 AI가 아닌 사용자에게 귀속되는 만큼, 기술 도입 과정에서 책임성과 검증 체계를 함께 고려해야 한다는 설명이다.

이 같은 접근은 AI스페라의 AI 기반 위협노출관리(AITEM) 개념과도 맞닿아 있다. AITEM은 AI가 보안 담당자의 판단을 대신하는 것이 아니라 방대한 취약점과 위협 정보를 분석해 대응 우선순위를 제시하고, 담당자가 실제 조치가 필요한 위험에 집중하도록 지원하는 방식이다.

같은날 발표자로 나선 이정인 서울고등검찰청 수사관도 생성형 AI는 디지털 증거 분석을 돕는 수단일 뿐, 최종 판단은 인간 전문가가 내려야 한다고 강조했다. 특히 AI 분석 과정에 사람이 개입해 결과를 검증하는 '휴먼 인 더 루프(HITL)' 체계와 분석 결과의 설명가능성(XAI)이 필요하다고 밝혔다.

박진형 기자 jin@etnews.com