[한국CIO포럼] “AI 도입 88%인데 성과는 6%…파일럿 이후가 관건”

기업 10곳 중 9곳이 인공지능(AI)을 사용하고 있지만, AI를 대규모로 적용해 높은 성과를 내는 기업은 1곳에도 못 미치는 것으로 나타났다. AI 도입이 빠르게 확산되는 것과 달리 이를 실제 업무 성과로 연결하는 데는 여전히 간극이 커 보완이 필요하다는 진단이다.

장윤찬 다올티에스 최고기술책임자(CTO) 부사장은 28일 서울 강남구 엘타워에서 열린 '한국CIO포럼 조찬행사'에서 “AI 파일럿은 많지만 부서별로 제각각 추진되다 보니 실제 운영으로 이어지지 못하는 사례가 많다”며 “운영 전환을 위해서는 기업 차원의 공통 플랫폼과 데이터·보안 기준을 먼저 마련해야 한다”고 밝혔다.

글로벌 컨설팅업체 맥킨지에 따르면 기업 AI 사용률은 88%에 달했지만, AI를 대규모로 적용해 높은 성과를 내고 있다고 응답한 기업은 6%에 그쳤다. AI 도입은 빠르게 늘고 있지만 실제 성과로 연결한 기업은 아직 제한적이라는 의미다.

장 부사장은 AI 프로젝트가 운영 단계에서 중단되는 이유로 인프라 구축의 복잡성, 소프트웨어 구성 부담, 통합 도입과 검증의 어려움을 들었다. 파일럿 단계에서는 특정 기능을 시험하는 데 그치지만, 실제 업무에 적용하려면 기존 업무 시스템과 데이터, 보안 체계까지 함께 맞물려야 한다는 설명이다.

특히 장 부사장은 데이터를 AI에 가져가는 방식보다 데이터가 있는 곳으로 AI를 가져가는 방식이 필요하다고 강조했다. 실제 기업이 직접 통제할 수 있는 환경에서 AI를 운영하기 위해 온프레미스 방식에 대한 선호가 높아지고 있다고 전했다. 외부 AI 사용에 따른 토큰 비용 폭증도 중요한 이유 중 하나다.

다올티에스는 기업 AX 전환 지원 솔루션으로 통합 AI 플랫폼 '다올퓨전'을 소개했다. 델의 AI 인프라를 기반으로 클라우드 네이티브, 데이터 관리, 사이버 보안, AI 솔루션을 기업 환경에 맞게 묶은 올인원 플랫폼이다. 기업들이 AI 도입 과정에서 겪는 인프라 구축의 복잡성, 소프트웨어 구성 부담, 통합 도입과 검증의 어려움을 줄이는 데 초점을 맞췄다.

장 부사장은 “AI를 비즈니스 성과로 연결하려면 문제 정의와 핵심성과지표(KPI) 설정, 관리·감독 체계 마련에 더 많은 시간을 투입해야 한다”며 “기술과 플랫폼은 전문 기업과 협력하고, 사업 조직은 해결해야 할 업무 문제에 집중하는 것이 투자수익률(ROI)을 높이는 길”이라고 강조했다.