미스트랄AI, 엔비디아 최적화된 오픈소스 형태 AI 모델군 공개

프랑스 인공지능(AI) 스타트업 미스트랄AI가 유럽 '소버린 AI' 실현 등을 위한 오픈소스 형태 거대언어모델(LLM)과 경량언어모델(SLM) 등 AI 모델군 '미스트랄 3'를 공개했다.

미스트랄 3는 엔비디아 슈퍼컴퓨팅과 엣지 플랫폼 전반에 최적화된 오픈소스 다국어·멀티모달 모델 제품군이다. LLM '미스트랄 라지 3'와 SLM '미니스트랄 3'로 구성된다.

미스트랄 라지 3는 전문가 혼합 방식 모델로 모든 토큰마다 모든 뉴런을 구동하는 대신 가장 영향력이 큰 모델 일부만 활성화한다. 불필요한 낭비 없이 확장성과 정확성을 동시에 제공하며 엔터프라이즈 AI 가능성을 넘어 실용 영역으로 끌어올린다.

엔비디아는 미스트랄AI 신형 모델은 엔터프라이즈 AI 분야에서 업계 최고 수준 정확도와 효율성을 제공한다고 밝혔다. 대규모 훈련과 추론을 위한 최고 성능을 보장한다. 신형 모델 2종은 지난 2일(현지시간)부터 클라우드, 데이터센터, 엣지 환경 전반에서 사용되고 있다.

미스트랄 라지 3는 410억개 활성 매개변수와 총 6750억개 매개변수, 25만6000개 대용량 컨텍스트 윈도우를 갖춰 엔터프라이즈 AI 워크로드에 확장성·효율성·적응성을 제공한다. 엔비디아 GB200 NVL72 시스템과 미스트랄AI MoE 아키텍처를 결합, 방대한 AI 모델을 효율적으로 배포·확장할 수 있다.

이는 미스트랄AI가 '분산 지능'이라고 부르는 시대를 향한 중요한 진전으로 연구 성과와 실제 활용 사이 간극을 좁히는 계기가 된다. 모델의 세분화된 MoE 아키텍처는 엔비디아 NV링크의 일관적 메모리 도메인과 전문가 병렬 처리 최적화를 적용, 대규모 전문가 병렬 처리 성능 이점을 극대화한다.

미스트랄AI는 LLM 기술 수준을 끌어올리는 데 그치지 않고 개발자가 어디서든 AI를 실행할 수 있도록 지원하는 미니스트랄 3 9개 제품군도 공개했다. 엔비디아 엣지 플랫폼 전반 실행에 최적화했다.

미스트랄 3 모델 제품군은 누구나 자유롭게 이용할 수 있다. 세계 연구자와 개발자가 자유롭게 실험하고 맞춤화하고 AI 혁신을 가속하며 최첨단 기술에 대한 접근을 폭넓게 확장할 수 있다.

미스트랄AI의 미스트랄 3 모델군은 주요 오픈소스 플랫폼과 클라우드 서비스 제공업체(CSP)를 통해 사용할 수 있다. 조만간 엔비디아 NIM 마이크로서비스 형태로도 배포될 예정이다.

박종진 기자 truth@etnews.com