경찰청 'AI 신뢰성 기준' 윤곽 나왔다…선제적 위험 관리

생성형 AI 이미지 경찰이 공공 분야 인공지능(AI) 영향평가 의무화에 앞서 선제적으로 치안 AI 신뢰성 기준을 수립했다. AI 기획·개발·운영 전 과정에서 글로벌 수준의 위험관리체계를 적용한다. 12일 업계에 따르면 AI 신뢰성 기업 씽크포비엘은 '경찰청 AI 영향평가·위험관리방안 수립' 정책연구용역을 통해 치안 AI의 기획·개발·운영 전 주기에 걸쳐 AI 신뢰성 기준을 마련했다. 내년 2월 '인공지능 및 데이터 기반 행정 활성화에 관한 법률(AI데이터행정법)' 시행으로 공공기관 AI 영향평가와 위험관리방안 수립이 의무화된다. 이에 앞서 경찰청은 씽크포비엘과 과학기술정보통신부 'AI 영향평가 가이드라인' 등을 조직 환경에 최적화하기 위해 연구를 수행했다. 핵심은 글로벌 수준의 AI 위험관리체계 구축이다. 경찰청은 국민 기본권에 직접 영향을 미치는 치안 업무의 특성을 고려해 국내법을 넘어 국제규범 수준의 AI 안전성·신뢰성 확보 방안을 수립했다. 씽크포비엘은 AI 위험도에 따라 안전관리 수준을 차등 적용하는 방안을 제시했다. 'AI기본법' 등 국내법을 준수하는 수준부터 국제규범 기준으로 상향된 수준까지 세부 기준을 구체화했다. 박지환 씽크포비엘 대표는 “경찰 내부 AI 신뢰성 역량을 강화하기 위해 사회적 수용성을 중심으로 유럽연합(EU)·미국 등 글로벌 규범을 국내 환경에 맞춰 적용했다”고 말했다. AI 도입·개발·운영 전 과정에 적용할 AI 위험관리방안도 수립했다. 발주 단계에서 AI 도입 적합성과 위험요소를 판별하고, 개발 과정에서 신뢰성 기준을 충족하는지 검증한다. 운영 단계에서 적정성 점검까지 전 과정의 위험을 관리한다. 이치화 경찰청 인공지능정책계장은 “치안 AI는 수사·범죄경력 등 민감정보를 다루고 파급력이 큰 만큼 씽크포비엘의 제안을 토대로 국민 눈높이에 맞춘 신뢰성 기준 적용을 검토 중”이라고 말했다. 전문가들은 경찰청 AI 신뢰성 기준이 공공부문에 선례가 될 것으로 평가했다. 임준태 동국대 경찰행정학과 교수는 “미국·중국 등 주요국에서 치안 AI 활용이 확대되고 있지만 경찰이 법적 의무화에 앞서 AI 위험관리체계를 마련하는 것은 국제적으로도 드문 사례”라고 밝혔다. 김희진 서울대 데이터사이언스대학원 교수는 “2024년 수립한 치안 AI 도입 3대 전략 중 '규범 합치적 활용' 전략과 맞닿아 있어 타 공공기관의 AI 관리체계 구축에 선례가 될 것”이라고 제언했다. 조벼리 기자 starry@etne...