망고부스트, AI 추론 서비스 '망고 인퍼런스' 출시

풀스택 AI 인프라 기반⋯API 키 하나로 시작하는 AI 추론 [아이뉴스24 최효경 기자] 인공지능(AI) 인프라 기업 망고부스트(대표 김장우)는 12일 서버리스 AI 추론 플랫폼 '망고 인퍼런스(Mango Inference)'를 공개했다.김장우 망고부스트 대표 [사진=망고부스트]이날 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스 열린 기자 간담회에서 김장우 대표는 'AI 인프라 시장 변화에 따른 망고부스트의 비전' 주제로 AI 인프라 시장을 전망했다. 그는 "AI 인프라의 무게중심이 학습 중심에서 추론·에이전트 중심으로 옮겨가고 있다"며 망고 인퍼런스의 경쟁력을 자신했다.권동업 CTO는 '망고 인퍼런스'의 구조와 특징을 소개했다. '망고 인퍼런스'는 망고부스트의 풀스택 AI 인프라를 기반으로 제공되는 추론 서비스다. 인프라 구축이나 구성 없이도 AI 모델을 이용할 수 있다.핵심은 서버리스와 향후 전용(Dedicated) 방식의 추론 서비스를 제공한다는 것이다. 시스템통합(SI) 파트너사, 개발자, 스타트업 이용자는 별도 설정 없이 바로 사용할 수 있는 모델을 선택하거나 전용 엔드포인트를 이용할 수 있다. 보안 응용프로그램 인터페이스(API) 키 관리, 추론 사용량·상태 확인, 요청·트래픽·지연·토큰 분석, 결제 내역 조회 등 서비스 운영에 필요한 기능을 한 곳에서 이용할 수 있다.김장우 망고부스트 대표는 "하드웨어부터 소프트웨어까지 직접 설계한 풀스택 기술력이 망고 인퍼런스의 차별점"이라며 "망고부스트는 빠르고 효율적이고 신뢰할 수 있는 추론의 새로운 기준을 제시하겠다"라고 말했다./최효경 기자([email protected]) 포토뉴스