[기획] PoC 넘어 성과로…기업 AX, '모델'보다 '운영'이 중요

기업의 인공지능(AI) 전환 경쟁이 개념검증(PoC)과 모델 도입을 넘어 실제 업무 적용과 성과를 만드는 단계로 이동하고 있다. 생성형 AI와 AI 에이전트를 만드는 기술 장벽은 빠르게 낮아졌지만 이를 기업 내부 업무에 안정적으로 적용하고 전사로 확산하는 것은 여전히 쉽지 않다. AI 도입 초기에는 어떤 대규모언어모델(LLM)을 선택하고 사내 데이터를 어떻게 연결할지가 주요 관심사였다. 최근에는 상용·오픈소스 모델 선택지가 다양해지고 에이전트 개발도 쉬워지면서 기업 AI 경쟁의 무게중심이 기술 도입 자체보다 실제 업무 적용과 운영, 비용 절감·생산성 향상 등 성과를 만들어내는 방향으로 옮겨가고 있다. 12일 업계에 따르면 성공적인 AI 전환(AX)을 위해 기술과 기업의 비즈니스 목표, 실제 업무를 수행하는 현업 조직이 함께 움직여야 한다는 주장이 나오고 있다. 기술적으로 완성도 높은 AI를 구축하더라도 현업에서 활용하지 않거나 투자 대비 효과를 측정하지 못하면 전사 확산으로 이어지기 어렵다는 것이다. AX에 필요한 요소도 모델을 넘어 넓어지고 있다. AI가 구동되는 인프라뿐 아니라 기업 데이터를 AI가 활용할 수 있는 형태로 정비하고, 에이전트를 업무 시스템과 연결하면서 보안·거버넌스와 성과 측정까지 함께 설계해야 한다는 주장이다. 이처럼 AX가 실제 업무와 성과로 이어지지 못하는 원인으로 기술 자체보다 기업 전략과 손익, 내부 역량 간 '정렬(Alignment)'의 문제라는 지적도 나온다. 베스핀글로벌 관계자는 “에이전트를 만드는 것은 이제 누구나 할 수 있지만 문제는 그 에이전트가 회사의 전략과 손익, 내부 역량과 따로 움직인다는 것”이라며 “전략은 있는데 현업이 쓰지 않거나, 잘 작동해도 얼마의 가치를 만들었는지 모르는 일이 발생한다”고 말했다. 결국 성공적인 AX를 위해서는 AI 도입 자체보다 실제 업무에 안착시키기 위한 운영체계를 먼저 갖춰야 한다는 분석이다. 기업마다 기존 IT 환경과 데이터 수준, 규제 요건이 다른 만큼 전사 시스템을 한꺼번에 바꾸기보다 효과가 큰 업무부터 시작해 운영 경험을 축적하고 적용 범위를 넓히는 방식이 현실적인 접근으로 꼽힌다. 베스핀글로벌은 5000여 고객사의 클라우드 운영과 200여건의 AX 프로젝트 경험을 바탕으로 이를 '7 Layer AI Stack'으로 체계화했다. △인프라 △모델·LLMOps △데이터 △온톨로지 △에이전트 구축·운영 △거버넌스·컴플라이언스·보안 △...