AI가 '알아서' 일하는 에이전틱 AI 시대⋯"정보 승인·책임 기준 세워야"

최효경 기자 입력 2026.09.23 17:49 김병필 KAIST 교수, 15개 기관 조사 결과 공개⋯개인정보위, 연말 안내서에 반영 [아이뉴스24 최효경 기자] 인공지능(AI)이 단순히 질문에 답하는 수준을 넘어 외부 서비스와 연결해 업무를 처리하는 '에이전틱 AI'로 진화하면서 AI가 어디까지 스스로 행동할 수 있는 지와 사고 발생 시 누가 책임질 지의 문제가 중요한 쟁점으로 떠올랐다.에이전틱 AI가 개인정보를 처리할 때 정보 변경·외부 전송처럼 피해가 발생할 수 있는 업무는 사람이 최종 승인하고, 사고가 나면 AI 개발사·서비스 사업자·외부 도구 제공사 가운데 누가 책임질 지를 미리 정해야 한다는 제언이 나왔다.김병필 KAIST 교수는 23일 서울 중구 은행회관에서 열린 개인정보보호위원회 'AI 프라이버시 민·관 정책협의회' 2차 전체회의에서 '에이전틱 AI의 프라이버시 이슈'를 주제로 발제하고 있다. [사진=최효경 기자]김병필 KAIST 교수는 23일 서울 중구 은행회관에서 열린 개인정보보호위원회 'AI 프라이버시 민·관 정책협의회' 2차 전체회의에서 '에이전틱 AI의 프라이버시 이슈'를 주제로 발제하며 이같이 밝혔다.김 교수는 지난 7월부터 약 한 달 반 동안 국내외 AI 개발·도입 기관 15곳을 대상으로 조사를 실시해 도출한 소프트웨어 개발, 사내 지식 검색, 고객 지원 등 AI 에이전트 활용 사례를 소개했다.김 교수는 "조사 결과 거래·결제, 개인정보 변경, 외부 전송, 권한 변경처럼 영향이 큰 업무는 사람이 최종 승인하는 방식이 일반적이었다"고 설명했다. 에이전틱 AI가 스스로 일을 하더라도 실질적 피해로 이어질 수 있는 단계에서는 결국 사람 개입이 필요하다는 것이다.김 교수는 "복수 응답 조사에서 제도 적용이 불확실한 쟁점으로는 '참여 주체의 지위와 책임 귀속'이 8개 기관으로 가장 많이 꼽혔다"며 "이용자 권한을 AI에 어디까지 넘길 수 있는지에 대한 우려도 7개 기관에서 나왔다"고 말했다.AI가 생성·결합한 정보의 이용 목적, 대화 기록과 장기 메모리의 보관·파기 기준도 각각 6개 기관이 문제로 지적했다. AI가 여러 서비스와 도구를 오가며 일을 처리할수록 개인정보 처리 주체와 책임 소재는 흐려질 수 있기 때문이다.김 교수는 "가이드라인이 단순히 위험을 경고하는 데 그쳐서는 안 된다"며 "AI가 사람 승인 없이 처리할 수 있는 업무의 범위와 유형, 기록·추적 정보와 메모리의 보관·삭제 기준,...