SKT 독파모 개발 총괄 "A.X K2, 일하는 AI로 무게중심 옮겨"

벤치마크 평균 성능 32.2%p 향상…한국어·수학 역량 강화 대형·경량 모델 역할 나눠…온프레미스로 기밀 데이터 보호 [아이뉴스24 안세준 기자] SK텔레콤에서 독자 인공지능(AI) 파운데이션 모델 개발을 총괄하고 있는 김태윤 SK텔레콤 파운데이션 모델 담당은 "SK텔레콤이 가려는 방향은 답하는 AI를 넘어 일하는 AI로, 세계가 인정하는 소버린 AI로 요약할 수 있다"고 말했다.김태윤 SK텔레콤 파운데이션모델 담당(부사장)이 인터뷰를 진행하고 있는 모습. [사진=SKT]김 담당은 4일 SK텔레콤 뉴스룸에 공개된 인터뷰에서 독자 AI 파운데이션 모델 A.X K2의 기술 경쟁력과 산업 적용 전략, 후속 모델 개발 계획을 소개하며 이같이 밝혔다.A.X K2, 6880억개 매개변수…추론 비용은 억제A.X K2는 총 6880억개(668B) 매개변수를 지닌 SK텔레콤의 언어모델이다. 정부가 추진하고 있는 독자 파운데이션 모델(독파모) 프로젝트에 대한 2차수 모델이기도 하다. SK텔레콤은 이전 대비 모델 규모를 키우면서 추론 과정에서 실제 활성화되는 매개변수를 330억개로 유지해 추론 비용 증가를 억제했다.김 담당은 "A.X K2의 가장 큰 변화는 답하는 AI에서 스스로 계획하고 실행하는 AI로 무게중심을 옮겼다는 점"이라며 "에이전틱 시대에 맞춰 추론 역량을 크게 끌어올렸다"고 설명했다.국내외 14개 벤치마크 평균 성능은 이전 모델인 A.X K1보다 32.2%포인트 향상됐다. 장문 이해와 에이전트 관련 평가에서는 약 83.9%포인트 개선됐다.김 담당은 "학습량을 무작정 늘리기보다 분야별 전문 지식이 담긴 고품질 데이터를 엄선·정제하고 고난도 추론과 한국어 역량, 산업 지식을 확보하는 데 집중했다"며 "특히 수학과 한국어 영역에서 두드러진 성과를 냈다"고 언급했다.장문·도구 호출에 강점…독자 구조 SGA 적용SK텔레콤은 긴 대화와 대규모 문서 참조, 반복적인 도구 호출을 안정적으로 처리하기 위해 독자 구조인 SGA(Sparse Gated Attention)를 적용했다. 입력 길이 12만 토큰을 기준으로 A.X K1보다 전체 토큰 처리량이 67.7% 개선됐다.김 담당은 "AI 에이전트가 실제 업무를 수행하려면 여러 차례 대화와 도구 호출, 긴 문서를 참조하는 과정이 이어진다"며 "이 과정에서 효율과 안정성이 떨어지면 전체 서비스 품질도 함께 낮아진다"고 했다.그러면서 "SK텔레콤이 독자 개발한 SGA는 긴 문맥을 효율적이고...