리사 수 30년 영혼의 단짝 "엔비디아 우위는 이제 사라졌다"

“엔비디아가 갖고 있던 쿠다(CUDA)라는 해자가 인공지능(AI) 때문에 사라졌습니다.” 리사 수 AMD 최고경영자(CEO)와 30년간 근무해 ‘영혼의 단짝’으로 불리는 마크 페이퍼마스터 AMD 최고기술책임자(CTO·사진)는 23일(현지시간) 미국 샌프란시스코에서 기자와 만나 이렇게 말했다. 쿠다는 엔비디아의 그래픽처리장치(GPU) 최적화 소프트웨어다. 한 번 쿠다 생태계에 종속되면 다른 기업의 GPU를 쓰기가 힘들고, 이는 엔비디아가 오랜 기간 시장 1위를 유지해온 비결이다. 페이퍼마스터 CTO는 “앤트로픽의 AI 모델 클로드에 AMD GPU를 최적화하라고 했더니 스스로 작업을 끝내놨다”고 설명했다. 더 이상 엔비디아 CUDA 생태계에서 이에 대응하는 AMD의 라컴(RocM) 생태계로 넘어가는 비용을 고민하지 않아도 된다는 의미다. 페이퍼마스터 CTO는 수 CEO와 함께 IBM에서 근무하다 3개월 일찍 AMD에 입사한 ‘영혼의 단짝’이다. 그는 IBM 시절을 포함해 30년 넘게 수 CEO와 일해온 경험에 대해 “그동안 정말 대단한 파트너십을 이어왔다”고 말했다. 다음은 페이퍼마스터 CTO와의 일문일답.▷올해 어드밴싱 AI 행사의 핵심은 개별 반도체가 아니라 랙 전체였다. AI 인프라를 랙 단위로 설계해야 하는 이유는 무엇인가.“오늘날 AI 모델은 조 단위 매개변수로 커졌다. 추론 과정에서도 수천 개의 작업을 높은 처리량으로 동시에 실행해야 한다. 이를 위해서는 거대한 컴퓨팅 클러스터가 필요하다. 특히 에이전틱 AI에서는 CPU와 GPU, 네트워크가 함께 작동해야 한다. 서로 다른 연산 장치 사이에서 데이터가 어떻게 이동하는지를 하드웨어와 소프트웨어 양쪽에서 최적화해야 한다. 이런 작업은 랙 단위에서만 가능하다.에이전틱 AI는 큰 컨텍스트 창을 관리하면서 수많은 작업을 병렬로 실행한다. 일부 작업은 CPU 기반 연산 장치로 보내 처리한 뒤 다시 결과를 가져와야 한다. 지난 7개월 동안 에이전틱 AI 도입이 본격화하면서 연산 수요가 급격히 증가했다.”▷AMD가 네트워크 업체 펜산도와 서버 제조업체 ZT시스템스를 인수한 것도 랙 전략을 위한 것인가.“그렇다. 랙 단위 최적화가 필요했기 때문에 2022년 펜산도를 인수해 네트워킹 역량을 확보했다. 지난해 인수한 ZT시스템스도 헬리오스 랙을 개발하는 데 핵심적인 역할을 했다. 이런 총체적인 설계와 튜닝 없이는 현재 헬리오스가 보여주는 성능을 달성할 수 없었다. AMD만...