골드만삭스: AI 서버 시장, GPU에서 ASIC·풀랙 구조로 이동하다

□ 글로벌 AI 서버 시장 재편: ASIC 비중 확대와 TAM 상향


Goldman Sachs는 글로벌 서버 시장에서 ASIC 기반 AI 서버 채택이 예상보다 빠르게 확대되고 있다고 평가함


ASIC AI 서버는 2025~2027년 AI 칩 출하 기준 38% → 40% → 50%로 확대될 전망임


이에 따라 글로벌 AI 서버용 칩 수요는 2025년 1,100만 개, 2026년 1,600만 개, 2027년 2,100만 개로 상향 조정됨


이번 상향은 단순 수요 증가가 아니라 구조 변화의 결과임


GPU와 ASIC 기반 베이스보드형 서버 전망이 동시에 상향되었고,


AI 풀 랙 서버가 단일 칩 중심에서 벗어나 다양한 칩 플랫폼을 수용하는 구조로 전환 중이며,


2026년 하반기부터 신규 AI 칩 기반 서버가 본격 등장할 것으로 보기 때문임


여기에 더해 ASIC 비중 확대는 CSP가 워크로드를 더 세분화해 설계하기 시작했다는 신호임


범용 GPU 대비 자체 모델·자체 서비스에 최적화된 칩 설계가 Capex 효율을 좌우하는 단계로 진입했음을 의미함


이러한 변화는 AI 서버 시장이 단일 범용 하드웨어 중심에서 벗어나, 워크로드별 최적화 구조로 진입하고 있음을 보여줌


CSP 입장에서는 동일한 연산 성능을 더 낮은 전력과 비용으로 구현하는 것이 중요해지고 있으며,


이는 범용 GPU 대비 ASIC 채택을 가속화하는 핵심 요인임


결과적으로 AI 서버 시장의 TAM 확대는 서버 구성 자체가 복잡해지면서 발생하는 구조적 성장으로 해석 가능함


□ AI 서버 수요의 질적 변화: 학습에서 추론으로


AI 서버 물량 상향은 고전력 학습 서버와 추론 서버 양쪽에서 동시에 발생함


H200, B200 등 500 TFLOPS 이상 고전력 칩 기반 AI 서버 물량은 2025~2027년에 각각 +9%, +30%, +50% 상향됨


이는 초대형 모델 학습 경쟁이 여전히 AI 서버 투자 증가의 핵심 동력임을 보여줌


동시에 L40S, L20, ASIC 기반 추론 서버 역시 2025~2027년에 +7%, +3%, +2% 상향됨


추론 서버 증가는 AI 서버 수요가 일회성 학습 투자에서 상시 가동 인프라로 성격이 바뀌고 있음을 의미함


이 시점부터 AI 서버 수요는 경기 사이클보다 사용자 트래픽과 서비스 확산 속도에 더 민감해지는 구조로 이동함


추론 서버 확대는 AI 인프라가 연구 중심의 비정기적 사용에서, 24시간 가동되는 서비스 인프라로 전환되고 있음을 의미함


이는 AI 서버의 수명과 가동률이 동시에 높아지는 구조로,


서버 한 대당 전력·냉각·네트워크 요구사항도 함께 증가하는 흐름임


따라서 추론 서버 증가는 단순한 서버 수 증가보다 데이터센터 운영 부담을 구조적으로 키우는 요인으로 작용함


추론 서버 확대는 AI 인프라가 연구 중심의 비정기적 사용에서, 24시간 가동되는 서비스 인프라로 전환되고 있음을 의미함


이는 AI 서버의 수명과 가동률이 동시에 높아지는 구조로,


서버 한 대당 전력·냉각·네트워크 요구사항도 함께 증가하는 흐름임


따라서 추론 서버 증가는 단순한 서버 수 증가보다 데이터센터 운영 부담을 구조적으로 키우는 요인으로 작용함


□ 풀 랙 전환이 의미하는 것: 칩 경쟁에서 인프라 경쟁으로


AI 서버 구조 변화의 핵심은 보드 단위에서 풀 랙 단위로의 전환임


GB200, GB300, MI450 시리즈 등으로 구동되는 풀 랙 AI 서버 출하량은 2025년 1만9천 랙, 2026년 5만5천 랙, 2027년 8만 랙으로 상향 조정됨


엔비디아 관련 랙 출하 전망은 유지되었으나, 풀 랙 설계로 전환되는 비엔비디아 기반 AI 랙이 더 많이 포함되며 전체 랙 시장이 확대된 구조임


풀 랙 전환의 본질은 칩 성능 경쟁이 아니라 전력과 냉각임


랙 단위 통합 설계를 통해 랙당 전력 밀도는 100kW 이상으로 상승하고 있으며, 공랭에서 수랭·액침 냉각으로의 전환이 가속화되고 있음


이 변화로 AI 서버 투자 효과는 반도체에 국한되지 않고 전력 설비, 냉각, 케이블, 네트워크까지 연쇄적으로 확산되는 구조를 형성함


풀 랙 전환은 서버 벤더의 경쟁 구도를 바꾸는 동시에, 데이터센터 설계 단계부터 AI 워크로드를 전제로 한 인프라 투자를 요구함


개별 서버 성능보다 랙 단위의 전력 효율과 열 관리가 중요해지면서,


AI 서버 도입은 사실상 데이터센터 리디자인을 동반하는 투자로 성격이 변화함


이로 인해 AI 서버 증설 속도는 단순한 칩 공급 능력보다 전력 인프라 구축 속도에 의해 제약받을 가능성도 커지고 있음


□ CSP Capex 상향의 본질: 돈의 크기보다 방향


글로벌 CSP Capex는 2025~2027년에 +78%, +37%, +15% 성장할 것으로 상향 조정됨


중국 주요 클라우드 사업자 역시 2025~2027년에 +62%, +17%, +9%의 Capex 증가가 예상됨


이번 Capex 상향의 핵심은 단순한 지출 증가가 아님


투자 방향이 GPU 확보 중심에서 랙 단위 통합 설계, 전력 인프라 선투자, ASIC 병행 전략으로 이동 중임


특히 중국 CSP의 투자 지속은 미국 GPU 제재 환경에서도 자체 ASIC과 자체 생태계를 통해 AI 투자를 이어가겠다는 신호임


AI 인프라가 정책과 지정학 리스크에도 후퇴하기 어려운 장기 전략 자산으로 인식되고 있음을 보여줌


이번 Capex 상향은 AI 투자가 기존 IT 업그레이드의 연장선이 아니라, 장기 인프라 자산으로 편입되고 있음을 보여줌


특히 전력·냉각·네트워크에 대한 선투자는 단기간 수익성보다 중장기 AI 사용량 확대를 전제로 한 전략적 선택에 가까움


이는 CSP들이 AI를 비용 항목이 아닌, 향후 서비스 경쟁력을 좌우하는 핵심 생산 요소로 인식하기 시작했음을 시사함


□ 마무리하며


이번 골드만삭스 리포트는 AI 서버 시장이 단순한 GPU 물량 증가 국면을 지나


ASIC 확산, 풀 랙 전환, 전력·냉각 중심 인프라 경쟁이라는 다음 단계로 이동했음을 명확히 보여줌


이 변화는 2024~2025년의 기대 중심 AI 투자와 달리, 실제 운영 단계에서 발생하는 구조적 전환이라는 점에서 성격이 다름


AI 투자에서 이제 중요한 질문은 GPU를 얼마나 더 사느냐가 아니라 어떤 구조로 AI를 운영할 것인가임


AI 인프라 사이클은 여전히 진행 중이며, 그 무게 중심은 이미 서버 숫자가 아닌 구조 변화로 이동 중임