리벨리온 AI칩, SKT 서비스 4곳에 확대…하루 1400만건 처리

에이닷 통화요약 이어 음성·고객센터·스팸 탐지에도 적용 국산 NPU 상용 서비스 확대…SKT "적용 범위 더 넓힐 것 [아이뉴스24 권서아 기자] 리벨리온의 국산 인공지능(AI) 반도체가 SK텔레콤의 에이닷과 AI 고객센터, 스팸 탐지 등 주요 서비스로 적용 범위를 넓혔다.리벨리온은 자사 신경망처리장치(NPU)가 SK텔레콤의 주요 AI 서비스 4개에 적용됐다고 21일 밝혔다. NPU는 AI 연산에 특화된 반도체다.리벨리온, SKT AI 서비스 지원 확대… 하루 40억 이상 토큰 처리. [사진=리벨리온]첫 적용은 지난해 12월 에이닷 통화요약이었다.SK텔레콤은 통화 내용을 분석해 상대방과의 관계를 추정하는 기능에 리벨리온의 AI 반도체 '아톰맥스'를 적용했다.이후 지난 6월부터 적용 범위를 넓혔다.현재 리벨리온 NPU는 에이닷 통화요약의 '한 줄 요약', 에이닷 음성합성, AI 고객센터의 상담 내용 정리와 검색, 스캠뱅가드의 미끼문자 탐지 등에 쓰이고 있다.이들 4개 서비스에서 리벨리온 반도체가 처리하는 AI 작업은 하루 약 1400만건에 달한다.AI가 글을 읽고 처리하는 단위인 '토큰'으로 환산하면 하루 40억개가 넘는다.리벨리온은 국산 NPU가 시험 단계에 머물지 않고 실제 이용자가 많은 상용 서비스에서도 안정적으로 작동하고 있다는 점에 의미를 뒀다.에이닷 음성합성 기능은 글이 만들어지는 동시에 이를 음성으로 바꿔주는 서비스다. 스캠뱅가드에서는 새롭게 등장하는 사기 문자를 찾아내는 데 NPU가 활용된다.SK텔레콤은 서비스 특성에 따라 그래픽처리장치(GPU)와 NPU를 나눠 쓰고 있다.GPU가 필요한 작업에는 GPU를, NPU로 처리할 수 있는 작업에는 NPU를 배치해 전체 AI 컴퓨팅 자원을 효율적으로 쓰는 방식이다.여러 대의 NPU를 한데 묶어 여러 서비스가 함께 사용하는 방식도 도입했다.박성현 리벨리온 대표는 "국민이 매일 사용하는 서비스 4개가 리벨리온 인프라에서 안정적으로 돌아가고 있다"며 "대규모 상용 운영 경험을 바탕으로 국내외 AI 서비스로 적용 범위를 넓혀가겠다"고 말했다.리벨리온은 앞으로 금융과 통신, 공공 등 다양한 분야로 NPU 공급을 확대할 계획이다./권서아 기자([email protected]) 포토뉴스