인텔, MLPerf 추론 v6.0 벤치마크서 개방·확장형 AI 성능 입증

인텔 아크 프로 B70 GPU

[아이티비즈 김문구 기자] 인텔은 2일 ML커먼스(MLCommons)가 발표한 최신 MLPerf 추론 v6.0 벤치마크를 통해 인텔 GPU 시스템의 4가지 주요 벤치마크 결과를 공개했다.

인텔 제온 6(Intel Xeon 6) CPU 및 인텔 아크 프로 B70(Intel Arc Pro B70) 그래픽을 탑재한 인텔의 AI 시스템은 하이엔드 워크스테이션, 데이터센터 및 엣지 애플리케이션 전반에 걸쳐 접근성이 뛰어난 AI 워크로드 솔루션을 선보였다.

벤치마크 결과에 따르면 4개의 GPU를 탑재한 인텔 아크 프로 B70/B65 시스템은 총 128GB의 VRAM을 기반으로 1,200억 개 파라미터 규모의 모델을 높은 동시성으로 구동할 수 있으며, 아크 프로 B70은 아크 프로 B60 대비 최대 1.8배 향상된 추론 성능을 보였다. 개방형 컨테이너 기반 소프트웨어 스택으로 구성된 최적화 기술을 통해 단일 노드부터 멀티 GPU 엔터프라이즈 배포까지 추론 성능을 효율적으로 확장함으로써, 동일한 인텔 아크 프로 B60 하드웨어 환경에서도 이전 MLPerf v5.1 대비 최대 1.18배의 성능 향상을 달성했다.

신규 출시된 인텔 아크 프로 B70/B65 GPU 기반 시스템은 최신 AI 추론 요구사항을 충족하도록 설계되었으며, 검증된 풀스택 하드웨어와 소프트웨어를 결합한 올인원 추론 플랫폼을 제공한다.

아닐 난두리 인텔 데이터센터 그룹 AI 제품 및 GTM 총괄은 “인텔 제온 6와 인텔의 아크 프로 B시리즈 GPU의 조합은 고객의 선택지와 가치를 확대하기 위한 인텔의 투자”라며, “전 세계 그래픽 전문가와 AI 개발자들에게 대규모언어모델(LLM)부터 전통적인 머신러닝(ML) 워크로드까지 해결할 수 있는 실질적인 솔루션과 최상의 성능 및 가치를 제공한다”고 설명했다.