SKT, 'A.X K2' 경량화 모델 무료 배포…"AI 생태계 활성화 기여 목적"

엔비디아 B200 GPU 8장→4장⋯메모리 사용량도 절반 수준 기업들은 AI 자원 부담 줄이면서 업무 효율화 기대 [아이뉴스24 서효빈 기자] SK텔레콤이 독자 인공지능(AI) 파운데이션 모델 'A.X K2'의 성능을 유지하면서 GPU와 메모리 부담을 절반 수준으로 낮춘 최적화 모델을 무료 공개했다. 구동에 필요한 컴퓨팅 자원을 줄여 기업의 AI 활용 부담을 낮추고 A.X 중심의 AI 생태계를 넓히겠다는 전략이다.ChatGPT 생성 이미지 [사진=ChatGPT]11일 AI 업계에 따르면 SK텔레콤은 글로벌 AI 개발자 플랫폼 허깅페이스에 'A.X K2-NVFP4'를 공개해 기업들이 무료로 사용토록 했다. 'A.X K2-NVFP4'는 A.X K2 모델이 학습과 연산의 정밀도를 낮춰 GPU와 메모리 부담을 줄인 경량화 모델이다.SK텔레콤에 따르면 기존 A.X K2를 운영하려면 엔비디아 B200 GPU 기준 8장이 필요하지만 A.X K2-NVFP4는 4장으로 구동할 수 있다. 메모리 사용량도 절반 수준으로 줄어든다.SK텔레콤은 허깅페이스에 "이 최적화 모델은 연구 목적 뿐 아니라 상업적 이용도 가능하다"고 공지했다. 기업이나 개발자가 사용료 없이 자체 서비스 개발이나 연구 등에 활용할 수 있다는 것이다.SK텔레콤이 초거대 모델을 개발한 데 이어 경량화를 한 것은 이번이 처음이 아니다. A.X K2의 이전 버전인 A.X K1도 경량·특화 모델 개발과 산업 현장 적용을 추진해왔다. 또한 특정 산업 현장에서 활용하기 위한 경량 모델 'A.X K2 Light'를 개발해 협력사와 실증을 진행하고 있다.SK텔레콤의 이같은 행보는 기업이나 개발자의 활용 문턱을 낮춰 A.X 생태계를 확대하려는 전략으로 풀이된다. SK텔레콤 관계자는 "모델 활용이 늘어날수록 이용 과정에서 쌓이는 피드백이 모델 사용성 개선에 다시 반영될 수 있어, AI 생태계 활성화는 곧 A.X 모델 자체의 발전으로 이어진다"며 "이는 당사와 그룹사, 나아가 고객사의 업무 생산성 향상과도 연결돼 선순환 구조를 만들 것으로 기대한다"고 말했다./서효빈 기자([email protected]) 포토뉴스