과기정통부, AI 보안 안내서 발표…“외부 위협서 AI 모델 보호”

과학기술정보통신부와 한국인터넷진흥원(KISA)이 '인공지능(AI) 보안 안내서'를 발표했다.

이번 안내서는 AI 모델 개발자, 서비스 제공자, 이용자 등이 외부 사이버 위협을 예방·대응하는 보안 관점에서의 상세한 가이드를 담았다는 게 특징이다. 이전 안내서들은 주로 AI 생성물, 추론 과정 등에 대한 신뢰성 및 윤리적 활용의 관점에서 다뤄졌다.

먼저 모델 개발 단계에서 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 AI 보안 내재화(Secure by Coding)를 실현하기 위한 보안 요구사항을, 서비스 제공 단계에선 서비스 이상 행위 탐지, 응용애플리케이션인터페이스(API)·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점에서의 보안 요구사항을 제시했다. 또 중요 정보 입력금지, AI 악용 금지 등 이용자를 위한 구체적인 보안 수칙도 포함했다.

과기정통부는 국제 기준 및 가이드라인 등을 참고해 AI 보안 요구사항을 글로벌 수준으로 정립했다며 국내 모델뿐만 아니라 해외 모델에도 적용할 수 있도록 범용성과 글로벌 규범 간 호환성을 확보했다고 설명했다.

임정규 과기정통부 정보보호네트워크정책관은 “이번 안내서는 고도화하는 사이버 위협 속에서 AI를 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것”이라며 “AI에 대한 새로운 보안 위협을 모니터링해 반영하는 등 보안 안내서를 지속 업데이트 해나갈 예정”이라고 말했다.

조재학 기자 2jh@etnews.com