디노티시아, 1세대 VDPU 설계 완료…벡터DB 공략 [강해령의 테크앤더시티]

토종 AI 솔루션 회사인 디노티시아가 벡터DB(데이터베이스)용 특수 칩인 벡터DB프로세싱유닛(VDPU) 설계를 완료했다. 생성형 AI 검색의 핵심 인프라인 벡터DB 처리 속도를 획기적으로 끌어올리는 세계 최초의 전용 칩을 앞세워, 기존 칩 기업들이 공략하지 못한 틈새 시장을 파고들겠다는 전략이다.

15일 업계에 따르면 디노티시아는 지난해 12월 말 VDPU 1세대 제품을 테잎 아웃(설계완료)하고, 대만 TSMC에 시제품 생산을 의뢰했다.

첫 VDPU는 TSMC의 12㎚(나노미터·10억 분의 1m) 공정으로 제조된다. 올해 초에 VDPU 실물이 나오면, 델·HP엔터프라이즈(HPE)같은 세계 최고의 데이터센터용 서버 제조사와 성능검증(PoC)과 리비전(수정) 작업을 거친다. 이 과정이 성공적으로 마무리되면 내년께 칩이 본격적으로 시장에서 판매될 것으로 예상된다.

VDPU는 디노티시아가 세계에서 처음으로 만드는 AI 반도체 칩이다. 이 칩은 벡터DB를 구현하는 데 쓰인다. 벡터DB는 텍스트·이미지 같은 데이터를 여러 개의 숫자로 변환해 저장한 다음, 의미적으로 가장 비슷한 데이터를 빠르게 찾아주는 데이터베이스다.

벡터DB의 핵심은 ‘맥락’이다. 챗GPT 같은 대규모언어모델(LLM)은 사용자의 질문에 답변을 곧바로 내놓지 않는다. 검색증강생성(RAG)이라는 과정을 통해 질문의 맥락과 맞닿은 데이터를 먼저 꺼내온 다음, 그 범위 안에서 답변을 만든다. 이 과정에서 벡터DB는 반드시 필요하다.

벡터DB가 질문의 맥락과 사용자가 써오던 언어를 잘 파악할수록 검색 결과가 좋아진다. 또 데이터가 폭증하면서 벡터DB의 검색 속도가 더 빨라져야 한다는 과제가 있다.

그간 벡터DB는 서버 전체를 제어하는 CPU라는 칩으로 운영됐다. 그러나 CPU만으로는 벡터DB 검색 속도를 올리는 데 한계가 있다. 그래픽처리장치(GPU)도 벡터DB에는 적합하지 않다. 두 칩 모두 연산기 주변의 메모리에 불규칙하게 접근해 정보를 빼내는 벡터DB만의 특성을 충족하기에는 다소 부족하기 때문이다.

디노티시아는 이 칩으로 기존 CPU로 벡터DB를 구현할 때보다 최대 12배 빠른 벡터DB를 구현할 수 있다고 주장해왔다. 회사는 이 칩으로 구성한 서버, 디노티시아의 자체 벡터DB 소프트웨어(SW)를 결합한 제품으로 본격적으로 시장 공략에 나설 것으로 보인다. 이미 SW는 국내 대기업 사내 AI 인프라용으로 공급하면서 매출을 내고 있다.

업계 관계자는 "칩 개발은 파인콘, 위비에이트, 밀버스 등 경쟁사가 시도하지 않은 부분"이라며 "VDPU 1세대를 얹은 벡터DB 서버랙이 나오면, 회사가 더욱 공격적으로 시장에 진입할 수 있을 것"이라고 설명했다.

강해령 기자 hr.kang@hankyung.com