개인정보위, AI 개인정보 노출 막을 11대 기술 개발 추진

개인정보보호위원회가 인공지능(AI) 모델의 개인정보 노출 위험을 평가하고 딥페이크·다크웹·피지컬 AI 등 신기술 환경의 개인정보 유출을 막기 위한 11대 핵심기술 개발에 나선다.

개인정보위는 '개인정보 전주기 보호·활용 기술 R&D 및 표준화 로드맵(2026~2030)'을 수립했다고 9일 밝혔다.

이번 로드맵은 개인정보의 생성·수집부터 파기까지 전주기별 보호·활용 기술과 표준화 대상을 재정비한 것이 핵심이다. 개인정보위는 기존에 별도로 운영하던 개인정보 보호·활용 기술 연구개발(R&D) 로드맵과 표준화 로드맵을 통합·연계했다.

로드맵은 △개인정보 주권 보장 △유·노출 위험 경감 △신뢰 기반 안전 활용 △AI 대응 기술 개발 등 4대 분야로 구성됐다.

로드맵의 핵심은 AI 환경에서 개인정보가 노출되거나 재식별되는 위험을 줄이는 기술 개발이다.

개인정보위는 생성형 AI 모델의 개인정보 노출 가능성을 평가하는 'AI 모델 안전성 평가'와 AI 에이전트의 개인정보 접근·실행 권한을 통제하는 '에이전트·도구·로봇 실행 보안'을 핵심 기술 과제로 제시했다.

로봇과 사물인터넷(IoT) 환경에서 개인정보 수집 범위를 실시간으로 제어하는 '피지컬 AI 실시간 프라이버시 제어'도 포함됐다. 영상·텍스트·음성 등 비정형데이터에서 개인정보를 탐지하고 비식별화하는 AI 기반 기술도 개발 대상에 올랐다.

이와 함께 딥페이크·합성 콘텐츠 검증, 다크웹·표면웹 개인정보 유출 탐지, 가명·비식별 데이터의 재식별 위험도 평가, 합성데이터 기반 비식별화 기술 등도 11대 핵심기술에 포함됐다.

개인정보 분야 전문인력 양성 로드맵도 마련했다. 개인정보 보호·활용과 유출사고 예방·대응 역량을 갖춘 전문 인재를 향후 10년간 단계적으로 양성할 계획이다.

송경희 개인정보위 위원장은 “상용화 가능한 개인정보 보호·활용 기술을 개발하고 국내외 표준화, 전문가 양성과 연계해 개인정보 보호·활용 기술 생태계를 구축하겠다”고 말했다.