MS “포춘 500대 기업 80%, AI 에이전트 도입…보안 중요”

마이크로소프트(MS)가 글로벌 주요 기업의 인공지능(AI) 에이전트 도입 확산을 고려, 안전한 활용을 위한 보안 원칙을 제시했다.

11일 MS AI 보안 보고서 '사이버 펄스'에 따르면 세계적으로 사람과 AI 에이전트가 협업하는 사람·에이전튼팀이 빠르게 확대되고 있다. 포춘 500대 기업의 80% 이상이 로우코드(low-code)·노코드(no-code) 도구로 활성 에이전트를 구축·운용 중인 것으로 조사됐다.

보고서는 AI 에이전트의 급격한 확산이 가시성 격차라는 새로운 비즈니스 리스크를 만들어내고 있다고 진단했다. 악의적인 행위자가 에이전트의 접근 권한과 권한 범위 등을 악용할 경우, 에이전트가 의도치 않은 이중 에이전트로 전락하는 등 문제가 발생할 수 있다는 것이다.

실제 MS 디펜더팀은 메모리 포이즈닝 기법을 악용한 사기성 공격 캠페인을 포착했다. AI 레드팀은 에이전트가 기만적 인터페이스 요소로 일상 콘텐츠에 포함된 유해한 지침을 따르는 사례를 파악했다.

이러한 위험이 상존하는 상황에서 AI 도입 경쟁에서 앞서는 기업은 비즈니스·IT·보안팀이 협력, AI 에이전트 활동을 관측하고 거버넌스를 적용하며 보안을 강화하는 체계를 갖춘 곳이 될 것으로 전망됐다.

보고서는 제로 트러스트 원칙이 중요하다고 강조했다. 필요한 권한만 부여하는 최소 권한 액세스, ID·기기·위치·리스크 기반 명시적 검증, 침해 가능성을 항상 전제로 하는 침해 가정이 핵심이다.

또 AI 에이전트 보안의 출발점으로 가시성 확보를 제시했다. 에이전트 존재 여부, 소유자, 데이터 접근 범위, 행동 양식 등을 파악하는 통합 관리체계가 필요하다는 의미다.

AI 에이전트를 도입한 선도 기업들은 거버넌스를 현대화하고 불필요한 데이터 공유를 최소화하며 전사적 통제 체계를 단계적으로 강화하고 있다. 보고서는 이러한 접근이 에이전트 보호를 경쟁 우위로 전환하는 전략적 자산으로 부상하고 있다고 평가했다.

박종진 기자 truth@etnews.com