에이전틱 AI 확산에 커지는 비용…델, 토큰 효율화 공략

1 week ago 17

지난 5월 18일 미국 라스베이거스에서 열린 델 테크놀로지 연례행사 'DTW 2026' 기조연설 에서 마이클 델 회장(오른쪽)과 젠슨 황 엔비디아 최고경영자(CEO)가 대화를 나누고 있다. 에이전틱 인공지능(AI) 확산으로 기업의 토큰 처리 비용 부담이 커지는 가운데 델 테크놀로지스가 온프레미스·하이브리드 인프라를 앞세워 기업용 AI 시장 공략을 강화한다. 30일 업계에 따르면 델은 토큰 비용 절감에 유리한 온프레미스·하이브리드 환경 구축을 지원하는 '델 AI 팩토리'를 통해 기업의 AI 인프라 수요에 대응하고 있다. 서버와 스토리지, 통합 랙, 냉각·네트워킹 솔루션, 소프트웨어와 전문 서비스 등 AI 인프라 구축에 필요한 요소를 원스톱으로 통합 공급하는 형태다. 델은 이를 통해 기업들이 AI 성능을 유지하면서도 토큰 처리 비용을 최적화할 수 있게 인프라 구축을 지원한다는 전략이다. 기업들의 AI 인프라 수요는 실적으로 이어지고 있다. 델의 2027회계연도 1분기(2~4월) 인프라솔루션그룹(ISG) 매출은 전년 동기 대비 181% 증가한 290억달러(42조원)로 역대 최대치를 경신했다. 같은 기간 AI 서버 매출은 161억달러로 757% 늘었다. 엔비디아 베라루빈 NVL72를 탑재한 델 파워엣지 XE9812 서버 이 같은 AI 인프라 수요 확대의 배경에는 에이전틱 AI 확산에 따른 기업들의 AI 토큰 비용 부담 증가가 있다. 토큰은 AI 모델이 정보를 이해하고 결과를 생성할 때 사용하는 연산의 기본 단위다. AI 에이전트가 코딩, 코드 검토, 인프라 관리, 보안 등의 업무를 자율적으로 수행하고 다른 에이전트와도 협업하면서 토큰 사용량이 폭증했다. 기업들은 과거처럼 퍼블릭 클라우드에만 의존하기에는 비용 부담이 커졌다. 토큰 비용이 기업 재무에 직접 영향을 미치면서 이를 효율화하는 '토크노믹스'가 새로운 경영 과제로 떠올랐고, AI 인프라의 총소유비용(TCO)에 대한 시각이 변화한 것이다. 델은 기업들이 퍼블릭 클라우드를 사용하면서 겪는 비용 급증 및 거버넌스 문제에 대한 대안으로서 온프레미스 또는 하이브리드 방식의 인프라 수요를 적극 공략하고 있다. 이들 환경에서는 AI를 데이터가 저장된 곳 가까이에 배치할 수 있어 데이터 이동에 드는 비용과 시간을 줄일 수 있다. 델 파워랙 실제 연구 기관 프린시펄드 테크놀로지스가 온프레미스 기반 델 AI 팩토리와 퍼블릭 클라우드 기반의 4년치 워크로드 운영을 비교한 결과, T...

Read Entire Article