삼성전자 '생각하는 메모리' vs SK하이닉스 '식히는 HBM'[핫칩스 2026]

삼성, 세계 첫 LPDDR5X-PIM 개발...스마트폰·PC AI 공략 SK하이닉스, HBM 내부에 냉각 통로…'ICE'로 열저항 30%↓ [아이뉴스24 권서아 기자] 삼성전자와 SK하이닉스가 차세대 인공지능(AI) 메모리 기술 경쟁에 속도를 내고 있다. 삼성전자는 메모리가 연산 일부를 직접 처리하는 '메모리 내 연산(PIM)'을, SK하이닉스는 고대역폭 메모리(HBM) 내부의 열을 빼내는 'iHBM(ICE-HBM)'을 앞세웠다.AI 모델이 고도화되면서 메모리에는 더 많은 데이터를 빠르게 처리하면서도 전력 소모와 발열을 낮춰야 한다는 과제가 주어지고 있다. 양사는 서로 다른 방식으로 이 문제를 해결하며 차세대 AI 메모리 시장을 겨냥하고 있다.양사는 지난 23~25일(현지시간) 미국 스탠퍼드대에서 열린 '핫칩스 2026'에서 이 같은 기술을 공개했다.삼성전자의 LPDDR5X-PIM 개념도. XPU(CPU·GPU·NPU 등 연산 프로세서)와 데이터를 주고받는 기존 메모리와 달리 PIM은 메모리 내부에서 일부 연산을 직접 처리한다. [사진=삼성전자]삼성, 세계 첫 LPDDR5X-PIM…메모리가 직접 연산삼성전자는 세계 최초로 개발한 '저전력 D램(LPDDR)5X-PIM'의 구조와 AI 추론 성능을 공개했다. PIM은 데이터를 저장하던 메모리에 연산 기능까지 넣은 기술이다.기존에는 메모리에 있는 데이터를 중앙처리장치(CPU)나 그래픽처리장치(GPU)로 보내 계산한 뒤 다시 메모리로 가져와야 한다. 이 과정에서 데이터가 계속 오가면서 처리 시간이 늘고 전력 소모도 커진다.PIM은 이 가운데 비교적 단순한 연산을 메모리 내부에서 직접 처리한다. CPU나 GPU로 데이터를 보내는 과정을 줄여 데이터 이동에 드는 시간과 전력 소모를 낮추는 것이 핵심이다.특히 스마트폰·PC처럼 기기 안에서 AI가 작동하는 '기기내장형(온디바이스) AI'와 추론 작업에 적합하다. 삼성전자가 AI 모델을 이용해 시험한 결과 LPDDR5X-PIM은 기존 LPDDR5X보다 데이터 처리 속도가 약 2배 빨라지고 초당 토큰(AI의 최소 문장 처리 단위) 처리량은 약 3배 늘었다.AI 시장이 대규모 모델을 만드는 '학습'에서 실제 서비스를 제공하는 '추론'으로 넓어지면서 삼성전자는 HBM뿐 아니라 저전력 메모리에도 연산 기능을 넣는 전략을 확대하고 있다.SK하이닉스, HBM 안에 'ICE'…뜨거운 곳 바로 식혀SK하이닉스의 과제는 HBM을 더 높이 쌓을...