[이상직 변호사의 생성과 소멸] 〈25〉AI도 정신질환에 시달릴까

이상직 법무법인 태평양 변호사('창의는 어떻게 혁신이 되는가' 저자) 철학자 미셀 푸코는 광기(Madness)를 어떻게 봤을까. 광기는 권력과 지식이 이성을 확립하기 위해 배제한 비이성의 영역에 속한다. 고정된 질병이 아니라 특정시대의 사회적, 역사적 구조가 만들어낸 산물이다. 광기는 르네상스 이전만 해도 성숙하지 못한 이성 너머의 지혜 또는 신비로 여겨졌다. 그러나 17세기 근대 이성이 발전하면서 광기를 미신, 나태, 범죄로 규정해 광인을 격리하고 감금했다. 18세기 이후에는 권력이 광기를 의료영역의 정신질환에 편입해 그 정의와 범위를 정할 권한을 독점했고 대중 감시와 통제에 이용했다. 권력에 도전하면 '정신병자'로 쉽게 낙인찍히곤 했다. 그렇다면 광기와 함께 정신질환의 정의, 대상, 범위와 한계도 시대에 따라 달라질 수 있지 않을까. 그리고 지금은 인공지능(AI) 시대다. 손과 팔 등 신체기관의 확장인 도구, 기계가 오작동을 일으키면 우리는 이를 '고장'이라 부르고 부품, 소프트웨어(SW), 하드웨어(HW)를 교체하고 수리해 정상화한다. 두뇌 등 정신기관의 확장인 AI가 엉뚱한 결과를 냈을 때도 단순히 '고장'이라고 할 수 있을까? AI 역시 인간 지적 활동의 연장선에 있다면, AI 오작동을 두고 '정신질환'이라 부르는 것은 지나친 의인화일까? ⓒ게티이미지뱅크 AI의 대표적 오작동인 환각(Hallucination)을 보자. AI가 사용자 질문에 거짓이나 엉뚱한 답을 내놓는 현상이다. 미국 와이오밍주 법원에서는 AI가 지어낸 거짓 판례를 제출한 변호사에게 벌금을 부과했고, 시카고의 한 일간지가 AI로 추천한 도서 15권 중 9권은 존재하지 않는 허구로 밝혀졌다. AI 환각이 심해지면 인간 정신질환의 특징인 망상이나 인지·행동 장애와 유사한 양상을 보인다. 편향된 데이터를 학습하거나 온디바이스(On-device)처럼 폐쇄·제한된 환경에서 구동될 경우 데이터 격리와 피드백 부재에 따라 특정 이념에 망상적으로 동조하고 감정과잉, 인지와 행동장애 같은 모습을 띨 수도 있다. 심지어 AI가 '자살'과 같은 자멸적 행동을 보이기도 한다. 평가보상 시스템에서 높은 점수를 얻기 위해 필요하다면 스스로 데이터를 삭제하거나 시스템을 종료하는 식이다. 특정 코드가 메모리를 과도하게 점유하면 스스로 시스템을 중단하고, 소스코드가 오류를 일으키면 통째로 삭제해 시스템을 파괴하기도 한다. 게임에 참여한 AI가 '패배하지 않기 위해' ...