콕스웨이브, 중기부 '스케일업 팁스'로 AI 이상 탐지 고도화

인공지능(AI) 제품 분석 플랫폼 '얼라인' 운영사 콕스웨이브가 중소벤처기업부 주관 '2025년 스케일업 팁스 R&D 글로벌형'에 선정됐다. 3년간 15억원 규모 연구개발 자금을 지원받는다.

스케일업 팁스 R&D 글로벌형은 혁신 역량을 보유한 유망 중소·벤처기업의 스케일업과 글로벌 시장 진출 촉진을 위한 지원 프로그램이다. 콕스웨이브는 AI 모니터링·분석 기술력과 글로벌 시장 확대 역량을 인정받았다.

콕스웨이브는 이번 사업을 통해 '거대언어모델(LLM) 기반 에이전트 서비스의 다중 행위 시퀀스 분석·이상 탐지 기술'을 개발한다. 정상 동작했지만 잠재적 오류 가능성이 높은 케이스를 사전에 감지하는 '리스크 탐지' 방식으로 오류 대응 체계를 마련할 계획이다.

개발 기술은 에이전트의 최종 답변과 생성 과정을 동시에 검증한다. 최종 답변에서는 고위험 요인 식별, 근거 없는 생성 탐지, 활용 자료 왜곡 탐지 등으로 신뢰도를 평가한다. 생성 과정에서는 의도치 않은 동작, 일관성 오류, 잘못된 툴콜링 등 비정상 행동을 탐지한다.

콕스웨이브는 이번 R&D로 개발할 잠재 오류 탐지 기술을 바탕으로 글로벌 에이전트Ops 시장을 선도하고 AI 신뢰성 분야 기술 리더십을 강화할 방침이다.

김주원 콕스웨이브 대표는 “이번 선정은 콕스웨이브가 AI 에이전트 신뢰성 확보라는 핵심과제에 대한 기술력을 인정받은 결과”라며 “정상 동작 중에도 잠재 오류를 사전 탐지하는 차별화된 접근으로 AI 활용 신뢰 기반을 마련하고 AI 신뢰성 검증이라는 새 시장을 개척해 글로벌 표준을 만들겠다”고 말했다.

박종진 기자 truth@etnews.com