SK하이닉스 HBF에 힘 실은 구글…"AI, 더 큰 메모리 필요"

4 days ago 16

FMS 2026서 "AI 추론 시대 메모리 병목 해법" 제시 SK하이닉스 "HBM과 함께 쓰는 새 메모리 계층" [아이뉴스24 박지은 기자] "AI가 더 똑똑해질수록 더 많은 데이터를 기억해야 한다."구글 딥마인드가 차세대 인공지능(AI) 시대를 이끌 메모리 기술로 '고대역폭플래시(HBF)'를 지목했다. AI가 단순히 답을 학습하는 단계를 넘어 이용자와 대화하고 추론하는 방식으로 발전하면서 기존 D램만으로는 용량과 비용 한계를 극복하기 어려워졌다는 이유에서다.SK하이닉스 임의철 부사장(Solution AT 담당)이 6일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 FMS 2026에서 HBF 관련 패널 토론에서 발언하고 있다. [사진=SK하이닉스]6일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 'FMS(Future of Memory and Storage) 2026'에서는 'HBF로 메모리 월(Memory Wall)을 넘다(Breaking the Memory Wall with High Bandwidth Flash)'를 주제로 패널 토론이 열렸다.이날 토론에는 구글 딥마인드 샤오위 마 연구원과 SK하이닉스 임의철 솔루션 AT 담당, 샌디스크 라지브 나가비라바 부사장이 참석해 AI 시대 메모리 구조의 변화와 HBF의 역할을 논의했다.눈길을 끈 것은 실제 AI 서비스를 개발하는 구글의 설명이었다.샤오위 마 연구원은 앞으로 10년 동안 AI 추론용 반도체 시장이 10배 이상 성장할 것으로 전망했다. AI 산업의 중심이 모델을 학습시키는 단계에서 이용자의 질문에 답하고 업무를 수행하는 '추론' 단계로 빠르게 이동하고 있다는 것이다.그는 AI가 텍스트뿐 아니라 이미지와 영상, 음성까지 동시에 처리하는 멀티모달 기술이 확산되고, 이전 대화 내용을 기억하기 위한 'KV 캐시' 데이터도 급격히 늘면서 메모리 부담이 커지고 있다고 설명했다.결국 AI는 빠른 메모리뿐 아니라 훨씬 더 큰 용량의 메모리도 함께 필요해졌고, HBF가 이를 해결할 새로운 메모리 계층이 될 것이라는 게 구글의 설명이다.HBF는 초고속 메모리인 고대역폭메모리(HBM)와 저장장치인 솔리드스테이트드라이브(SSD)의 중간 역할을 하는 기술이다.HBM처럼 연산에 필요한 데이터를 빠르게 공급하면서도 낸드플래시를 기반으로 해 훨씬 많은 데이터를 저장할 수 있다. HBM을 대체하는 것이 아니라 AI가 자주 사용하는 데이터를 효율적으로 관리하는 보조 메모리 역할을 ...

Read Entire Article