카카오, 경량 언어모델 4종 오픈소스로 공개

2 weeks ago 19

정유림 기자 입력 2026.07.28 10:39 한국어 특화 토크나이저로 처리 효율 30% 높여⋯상업 활용 가능한 라이센스 적용 [아이뉴스24 정유림 기자] 카카오는 자체 개발한 인공지능(AI) 모델 카나나의 경량 언어모델(SLM)을 오픈소스로 28일 공개했다. 스마트폰 등과 같은 디바이스(기기)에서 구동할 수 있는 카나나-2 경량 언어모델 시리즈로, 카나나-2-1.3B-베이스, 카나나-2-1.3B-인스트럭트, 카나나-2-3B-베이스, 카나나-2-3B-인스트럭트 등이다.[사진=카카오]카카오는 크기가 작더라도 실제 서비스에 적용 가능한 수준의 성능을 갖춘 경량 언어모델을 연구해왔다. 카카오에 따르면 카카오톡 속 나만의 AI 비서를 표방하는 '카나나 인 카카오톡', 카카오톡 대화·통화 요약, AI 국민비서 등 다양한 서비스에서 경량 모델이 활용되고 있다.이번에 공개한 모델들은 작은 크기에도 한국어와 영어 모두에서 세계적인 수준의 성능을 구현한 것이 특징이다. 유사 크기의 최신(SOTA) 오픈소스 모델 대비 한국어, 영어, 지식, 수학, 코드 등 대부분의 대표 벤치마크에서 우수한 성능을 기록한 것으로 전해졌다.카카오 관계자는 "이번에 공개한 카나나-2-1.3B-인스트럭트와 함께 개발한 더 작은 규모의 카나나-2-0.9B-인스트럭트는 대화, 지식, 코드, 수학, 지시 이행, 도구(툴) 호출 등 실제 서비스 활용 역량에서도 알리바바의 큐웬, 구글의 젬마 등 동급 모델과 경쟁력 있는 성능을 보였다"고 강조했다.자체 개발한 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저란 AI 모델이 문자(텍스트)를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 기술이다. 한국어에 최적화된 토크나이저를 사용할수록 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용도 줄어든다. 카카오는 지난해 개발 완료한 한국어 특화 토크나이저를 이번 모델 전반에 적용했다.또 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 문제를 해결하기 위해 슬라이딩 윈도우 어텐션 구조를 도입했다. 이로써 최대 3만2000개의 토큰(약 2만4000개 단어) 길이 수준의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있도록 한다.카카오는 이번 모델을 상업적 활용까지 허용하는 카나나 오픈 라이센스로 배포한다. 이로써 개발자, 스타트업, 연구기관 등 누구나 제약 없이 기술을...

Read Entire Article