크래프톤, 21B 한영 이중언어 음성 AI 모델 'A.X K2 Raon-Speech' 공개
1 week ago
19
- SKT의 A.X K2 Light 20B-A3B 텍스트 백본에 KRAFTON이 자체 학습한 음성 인코더와 음성 코덱을 결합한 모델로, 전체 21.2B 중 약 3.5B 파라미터를 활성화
- Raon-Speech-9B의 학습 방식을 사용하며 세 가지 주요 구성 요소를 통합
- 텍스트 백본: A.X K2 Light 20B-A3B MoE
- 음성 인코더: KRAFTON이 독립적으로 학습한 AuT 인코더. Qwen3-ASR 아키텍처 기반(24개 레이어, 317M 파라미터)
- 음성 생성 모듈: KRAFTON이 독립적으로 학습한 Mimi 계열 신경망 음성 코덱. 약 96M 파라미터
- 하나의 모델에서 STT/TTS, SpeechQA/SpokenQA, 텍스트 질의응답, 도구 호출, 턴 기반 멀티모달 대화를 지원하며 감정/억양/화자 정보도 응답 생성에 활용
- 텍스트 백본은 48개 레이어와 2,048 차원 은닉 상태를 사용하며, 128개 라우팅 전문가 중 토큰마다 상위 8개를 활성화하며, 최대 131,072 토큰
- 한국어 24개와 영어 22개 등 46개 벤치마크 평가에서 30B 이하 공개 음성 언어 모델 중 한국어 종합 1위 0.72, 영어 종합 3위 0.75를 기록
- 화자 참조 음성을 이용한 음성 복제와 참조 음성의 운율을 이어가는 TTS continuation을 지원하지만, BF16 가중치가 약 42.4GB로 80GB GPU 또는 적절한 다중 GPU 구성을 권장함
- 연구와 비상업적 프로토타이핑을 위한 CC BY-NC 4.0 모델로, 식별 가능한 화자의 음성을 조건으로 사용하거나 생성할 때 이용자가 동의를 확보해야 함
- 크래프톤은 과학기술정보통신부가 주관하는 ‘독자 AI 파운데이션 모델 프로젝트(독파모)' SK텔레콤 팀에 참여해 멀티모달모델 연구를 진행하고 있음
-
Homepage
-
개발자
- 크래프톤, 21B 한영 이중언어 음성 AI 모델 'A.X K2 Raon-Speech' 공개