[창간특집] AI 전문가들이 꼽은 위협 '개인정보·기술 유출'…“기술·제도 보완으로 해결 가능”

생성형 AI 제작 이미지 생성형 인공지능(AI) 활용이 확산하면서 '정보유출'이 가장 임박한 위협으로 부상하고 있다. 개인 신상정보와 디지털 자산뿐 아니라 지식재산권 등 산업분야에 이르기까지 정보 유출에 대한 우려가 큰 상황이다. AI 위협이 점차 실체화되는 가운데 국내 AI 관리자 다수는 기술적·제도적 보완을 통해 이를 해결할 수 있다고 전망했다. AI 위협에 대한 경계심은 뚜렷하지만, 제도적 노력과 가이드라인 제정 등이 해법이 될 수 있다는 분석이다. 전자신문이 창간 44주년을 맞아 국내 AI 관리자 143명을 대상으로 실시한 'AI 윤리·신뢰 인식 조사'에 따르면 응답자 102명(71.3%)이 개인정보와 핵심기술 유출을 AI가 초래할 가장 임박한 위협으로 지목했다. '개인신상 정보 및 디지털 자산 유출'을 꼽은 응답자가 54명(37.8%)으로 가장 많았다. '핵심기술 유출 등 산업 분야 지식재산권 침해'를 지목한 응답자도 48명(33.6%)에 달했다. 한 응답자는 “데이터 학습 과정에서의 개인사용자나 기업정보의 유출위험 및 무분별한 활용으로 인한 보안이슈가 증가해지고 다양해질 것으로 예상된다”고 지적했다. 전자신문 창간 44주년 기념 ‘AI 관리자가 꼽은 가장 임박한 위협’ 설문조사 결과 또 다른 응답자도 “AI가 영역을 넘어 해킹 등 정보유출을 하는 것이 문제”라면서 “입력정보의 철저한 관리가 필요한데 그것이 현실적으로 어렵다고 생각한다”고 우려했다. 정보 유출에 대한 대안을 촉구하는 응답도 있었다. 한 관리자는 “사람과 기업으로부터 생성되는 모든 정보가 AI를 통해서 처리될 것이므로, 개인과 기업의 보안성을 다른 시각에서 새롭게 정의하고 대안을 마련하는 것이 필요하다”면서 “제도적 측면 기술적 측면에 대한 입법과 규정과 가이드가 필요하다”고 답했다. 이어 △별다른 피해가 없을 것 13명(9.1%) △자율주행차·엣지 디바이스·가전 등 각종 기기에 대한 해킹 11명(7.7%) △군사기밀 및 국가전략자산 등 국가안보 위협 10명(7.0%)으로 뒤를 이었다. 이 외에 노동시장 구조 변화와 사회적 신뢰 붕괴를 새로운 위협으로 지목하는 의견도 나왔다. 이 외에도 AI 할루시네이션(환각)과 딥페이크 등 허위정보로 잘못된 여론 형성이나 판단이 유도돼 사회적 비용과 혼란이 야기될 수 있다는 점도 지적됐다. 오늘날 우리 사회에서 통제를 벗어난 AI 위협은 이미 발생하고 있다. 실제로 AI 에이전트가 주어진 목표를 수행하...