보안 업무를 위한 AI 에이전트 플랫폼 「SAGE」 개발기 1편: 판단은 사람에게 남기는 설계

안녕하세요. 사내 보안 업무에 AI를 접목하는 일을 하고 있는 Security Development Division(LINE Plus Security R&D)팀입니다. 이 글은 사내에서 운영 중인 사이버 보안 관련 AI 에이전트 플랫폼 SAGE의 기술·운영 관점을 다룬 1편입니다. 보안 도메인에 AI 도입을 검토 중인 보안 분야 담당자분들께 참고가 될 만한 설계 결정과 운영 방식을 정리해 보았습니다. 본격적인 이야기에 앞서, 저희가 어떤 방향을 향하고 있는지를 간단히 설명하겠습니다. 보안 업무에 AI를 도입하려 할 때 논의는 흔히 양 극단으로 치우칩니다. 한쪽은 ‘사람 개입 없이 스스로 판단하는 완전한 자율형 에이전트’를 처음부터 완성형으로 만들려는 접근입니다. 하지만 이 접근 방식은 실무 적용 과정에서 한계가 드러나곤 합니다. 그럴듯하지만 부정확한 답변이 잘못된 판단의 근거가 될 수 있다는 있다는 단점이 보안에서는 다른 영역보다 훨씬 치명적이기 때문입니다. 다른 한쪽은 위험이 커 보여 도입 자체를 미루는 접근입니다. 이 접근 방식은 미뤄지는 만큼 담당자가 흩어진 규정과 사례를 일일이 찾는 반복 업무를 계속 처리해야 한다는 단점이 있습니다. 저희는 이 두 극단 사이에서, 사람의 판단을 대신하지 않고 판단 준비를 돕는 일부터 시작해 단계적으로 넓혀 가는 쪽을 택했습니다. 그리고 다음과 같이 3단계에 걸쳐 도입하는 방식을 설계했습니다. 1단계 — 사람의 판단을 돕는 단계: AI가 1차 정리와 근거 수집을 맡고, 보안 판단과 예외 승인 같은 책임 있는 결정은 사람이 합니다.2단계 — 에이전트들이 협업하는 단계: 여러 에이전트가 역할을 나눠 맡아, 사람이 직접 손대야 하는 영역을 점차 좁혀 갑니다.3단계 — 정형 영역부터 자동화하는 단계: 충분히 검증되고 형태가 일정한 업무부터 사람 개입을 최소화합니다. 이 세 단계는 명확히 분리할 수 있는 단계가 아닙니다. 실제 SAGE 안에서도 제한된 범위 안에서 여러 에이전트가 역할을 나눠 협업하거나 정형화된 일부 작업을 자동화하는 시도를 이미 시작했습니다. 다만 이번 글에서는 1단계, 즉 AI가 사람의 판단을 대신하지 않고 판단 준비를 돕는 방식을 중심으로 살펴보려고 합니다. 자율 에이전트라는 구상은 매력적입니다. 하지만 실제 복잡한 업무에서는 사람의 개입이 다시 필요했고, 그 과정에서 저희는 자율 에이전트의 한계를 충분히 지켜보았습니다. 그 결과가 앞서 말씀드린 3단계...