[김경환 변호사의 IT법] 〈14〉AI 프롬프트가 핵심 증거가 되는 시대, 기업이 갖추어야 할 통제 체계는?

김경환 법무법인 민후 변호사 인공지능(AI) 기술이 기업 업무 전반에 빠르게 침투하면서 디지털 포렌식과 형사 수사의 지형도 크게 바뀌고 있다. 과거 수사기관이 사건의 전모를 파악하기 위해 피의자의 웹 브라우저 검색 기록이나 이메일, 문자메시지를 집중적으로 추적했다면, 이제는 생성형 AI에 입력된 '프롬프트' 대화 이력이 형사사건의 핵심 증거로 부상하고 있다. 실제로 국내의 한 모텔 연쇄 사망 사건 수사에서는 피의자가 챗GPT에 '약물 치사량'이나 '수면제와 술을 함께 복용했을 때의 위험성' 등을 정밀하게 질의한 대화 기록이 포렌식으로 복구됐다. 수사기관은 이를 토대로 단순 상해치사였던 혐의를 '살인죄'로 변경하고 범행의 고의성을 입증해 유죄 판결을 끌어냈다. 기업 포렌식 현장에서도 퇴직 예정자가 AI에 '회사 보안망을 피하는 소스코드 변형 방법'이나 '저작권 단속을 회피하는 코드 재작성 프롬프트'를 입력한 로그가 확보돼 영업비밀 유출의 범의를 밝혀내는 결정적 증거가 되는 유형 사례가 잇따르고 있다. 이처럼 AI 프롬프트는 기업과 임직원의 형사적 책임 여부를 가르는 '양날의 검'이 되고 있다. 특히 임직원의 개인적 비위나 영업비밀 유출 사건이 발생했을 때, 회사가 적절한 내부 통제 시스템을 갖추지 못했다면 법적 관리감독 책임(양벌규정 등)에서 자유로울 수 없다. 이에 기업은 선제적 법적 방어막을 구축하기 위한 관리 체계를 완성해야 한다. 첫째, 개인 계정 사용을 차단하고 중앙 로그 관리가 가능한 기업 전용 환경(Enterprise AI)을 단계적으로 구축해야 한다. 무료·개인용 계정의 대화 삭제 기능이나 '임시 채팅' 모드는 안티 포렌식 행위로 오인될 수 있으며, 사건 발생 시 증거 확보를 불가능하게 만든다. 다만, 과도한 통제가 비인가 AI를 몰래 쓰는 '섀도 AI' 현상으로 이어지지 않도록 업무용 공식 채널을 제공하고, 모든 입·출력 데이터는 타임스탬프와 해시값을 기반으로 중앙 감사 서버에 무결하게 보존해야 회사의 입증 능력이 확보된다. 둘째, 데이터 유출 방지(DLP) 솔루션과 AI 문맥 분석 모니터링을 연동해야 한다. 소스코드, 고객 개인정보, 미공개 계약서 등 핵심 자산의 유출 차단은 기본이다. 나아가 우회 표현이나 은어를 활용한 질문(Jailbreaking)까지 감지할 수 있도록 단순 키워드 차단을 넘어선 문맥 기반 탐지망을 갖추고, '증거인멸' '장부 조작' '포렌식 회피' 등 비위 행위를 모의하는 ...