업스테이지∙다음∙퓨리오사AI, '풀스택 소버린 AI' 상용화 사례 만든다

(왼쪽부터) 김성훈 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표. [사진=업스테이지 제공]

[아이티비즈 김문구 기자] 업스테이지가 다음, 퓨리오사AI와 손잡고 국내 첫 풀스택 소버린 AI 상용화 사례 구축에 나선다.

업스테이지에 따르면, 퓨리오사AI의 NPU '레니게이드(RNGD)’를 활용해, 업스테이지의 거대언어모델(LLM) ‘솔라’를 탑재한 다음의 ‘AI 요약’ 서비스를 구동하는 방식이다.

이번 3사 협력은 인프라부터 모델, 실제 사용자가 체감하는 서비스까지 AI 전 영역을 국산 기술로 연결한 첫 소버린 AI 사례다.

15일 김성훈 업스테이지 대표, 이건수 AXZ 대표, 백준호 퓨리오사AI 대표가 성남시에 위치한 AXZ 사옥에서 각 사의 계획과 소버린 AI 관점의 3사 협력 방안 등에 대한 대담을 나눴다.

3사는 대담에서 포털 ‘다음’의 AI 요약 서비스를 기반으로 한 이번 협력 사례에 대해 설명했다.

이건수 대표는 “다음 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 정리해주는 기능”이라며 “다음 검색창에 키워드를 입력하면 핵심 요약과 근거를 함께 제공하며, 내용이 바뀌면 AI가 자동 반영해 늘 최신 정보를 확인할 수 있다”고 말했다.

이 대표는 이어 "AI 요약을 개발하면서 LLM의 고질적인 환각(할루시네이션)을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다”며 “키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달하고 있다”고 설명했다.

백준호 대표는 “AI 요약 처리를 위해 3개 노드로 하루 5억 개의 토큰을 처리하고 있다”고 밝혔다. 백 대표는 “국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고, GPU보다 전력 대비 성능과 가성비가 높다”며, “전략적 관점에서도 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다”고 전했다.

또한 대담에서 3사는 향후 계획도 밝혔다.

이건수 대표는 “현재 베타 서비스 중인 AI 요약은 전체 질의 규모의 20% 정도를 처리하고 있지만 점진적으로 늘려갈 계획”이라며 “단순 요약을 넘어 쇼핑, 맛집 검색 등 버티컬로 확장하고, 다음을 통해 사용자에게 특화된 ‘1인 1에이전트’를 보급할 준비도 하고 있다”고 말했다.

백준호 대표는 “고도화된 에이전틱 AI 서비스를 좋은 토큰 가격에 지원할 수 있도록 제품을 확장하고 있다”며, “퓨리오사AI 칩도 세대를 거듭하며 성능과 가성비를 계속 높여, 글로벌 반도체 대비 우월한 경쟁력을 확보하겠다”고 언급했다.

김성훈 대표는 "솔라의 경쟁력으로 자체적인 소형 모델 설계로 확보한 글로벌 프런티어급 성능과 한국어 특화 역량을 꼽는다"며 “해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 더욱 고도화해 나가겠다”고 강조했다.