에스티엔인포텍, 리벨리온 NPU 기반 AI 클러스터 구축

네트워크 통합 관리(NMS) 전문기업 에스티엔인포텍이 국산 인공지능(AI) 반도체 기업 리벨리온 신경망처리장치(NPU) '아톰 맥스(ATOM-Max)' 기반 AI 클러스터를 자체 구축·운영하고 있다고 12일 밝혔다.

에스티엔인포텍은 기업 대상 NPU 도입 검증(PoC)과 AI 솔루션 개발·실증도 진행 중이다.

회사는 고객이 활용하려는 AI 모델을 NPU 환경에 최적화해 적용하고 실제 도입 환경과 유사한 조건에서 성능과 호환성을 사전에 검증하는 방식이다.

PoC에서는 최신 그래픽처리장치(GPU)인 RTX 5090과 DGX Spark, 아톰 맥스 NPU 등 이기종 AI 인프라를 활용한다. 각 환경에서 동시 처리량과 응답속도(TTFT) 등을 실측·비교해 고객 서비스와 모델에 적합한 AI 인프라 구축 방안을 제시한다.

NPU에서 직접 지원하지 않는 모델은 유사 성능의 대체 모델을 활용해 적용 가능성을 확인하는 방식으로 검증한다. 긴급 요청에는 당일 호환성을 분석하고 다음 날 검증 환경을 제공하는 대응력을 갖췄다. 방문형 PoC에서는 NPU 사용률을 확인할 수 있는 실시간 대시보드도 제공한다.

에스티엔인포텍은 NPU 클러스터에서 사내 AI 서비스를 직접 운영하며 안정성을 검증하고 있다.

검색증강생성(RAG) 기반 AI 지식검색 챗봇 'AI D-seeker'를 비롯해 오픈AI 음성인식 모델 'Whisper' 기반 AI 회의록 시스템, 72B급 대규모언어모델(LLM) 서빙 환경 등을 자체 구축·운영하고 있다.

에스티엔인포텍 관계자는 “통신사 네트워크 관리 시스템을 장기간 개발·운영하며 축적한 인프라 노하우를 바탕으로 리벨리온 NPU를 활용한 자체 AI 연구개발 환경을 구축했다”며 “연구개발과 PoC를 통해 기술 역량을 높이고 인프라 구축·운영부터 솔루션 공급까지 기업의 AI 도입 전 과정을 지원하는 기술 파트너로 자리매김하겠다”고 말했다.

조호현 기자 hohyun@etnews.com