AMD, 모델을 실리콘에 새기는 AI 칩 스타트업 Taalas 인수

AMD가 모델 가중치를 실리콘에 직접 새기는 Taalas를 인수해 Nvidia가 주도하는 고성능 추론 시장 공략을 강화함 TSMC 6nm 공정의 모델 전용 칩 HC1은 Meta Llama 3.1 8B를 초당 16,960토큰으로 처리해 발표 당시 Nvidia GPU보다 48배, Cerebras 가속기보다 8.5배 빨랐음 2세대 HC2는 칩당 200억 파라미터를 목표로 하며, 파이프라인 병렬화로 가중치를 분산하면 가속기 50개로 1조 파라미터 모델을 지원할 수 있음 AMD는 Instinct 기반 Helios 랙에서 GPU가 연산량이 큰 프롬프트 처리를, Taalas 기반 가속기가 토큰 생성을 맡는 분리형 구성을 고려하고 있음 모델 배포 후 LoRA 어댑터보다 큰 변경에는 칩 재제작이 필요하지만, 토큰 비용을 낮추고 출력 속도를 10~20배 높인다면 더 긴 추론을 사용하는 테스트 시간 스케일링의 활용 범위가 넓어질 수 있음 AMD의 Taalas 인수 AMD는 AI 하드웨어 시장에서 Nvidia와 경쟁하기 위해 2023년 토론토에서 설립된 Taalas를 인수함 인수 조건은 공개하지 않았으며, 인력만 확보하는 인재 인수가 아니라 회사 자체를 인수하는 거래로 파악됨 고성능 프리미엄 추론 서비스를 더 빠르고 저렴하게 운영한다는 점에서 Nvidia가 Groq와 체결한 200억 달러 라이선스 계약과 비슷한 맥락임 코드 도우미 같은 AI 에이전트 서비스가 주요 적용 대상임 거래는 규제 승인을 거쳐 2026년 4분기에 마무리될 예정임 모델 전용 집적회로의 구조 Taalas는 HBM에 모델 가중치를 저장하는 대신 실리콘에 직접 새김 기존 GPU는 물론 Groq LPU와 Cerebras 웨이퍼 스케일 가속기의 데이터 흐름 구조와도 다른 접근임 칩은 사실상 모델 전용 집적회로(MSIC)이며 크게 두 영역으로 구성됨 mask-ROM recall fabric에는 모델 가중치를 새김 SRAM recall fabric에는 KV 캐시와 미세조정 어댑터를 저장함 구체적인 내부 작동 방식은 대부분 공개되지 않았음 HC1의 개념 검증 성능 Taalas가 2026년 2월 공개한 첫 시험 칩 HC1은 TSMC 6nm 공정으로 제작됨 레티클 크기의 HC1은 Meta Llama 3.1 8B를 초당 16,960토큰으로 처리함 발표 당시 Nvidia GPU보다 48배 빨랐음 Cerebras 가속기보다 8.5배 빠른 수준임 Llama 3.1은 2024년 중반 공...