본 보고서에서는 일반적인 하이퍼스케일 AI 데이터센터의 설비 투자 구조를 물리적 인프라, IT 컴퓨팅 설비, 네트워크 설비로 구분하여 분석하였습니다. 이 중 서버인 컴퓨팅 시스템에 대한 투자가 가장 큰 비중을 차지합니다. 신규 프로젝트에서 하이엔드, 고출력 AI 서버의 비율이 지속적으로 증가함에 따라 컴퓨팅 시스템의 비용 비중은 더욱 높아질 것으로 예상됩니다.
주요 하이라이트
컴퓨팅 중심의 설비 투자가 전체 투자의 대부분을 차지
네트워크는 프론트엔드와 백엔드로 나뉘어 넓은 상호연결을 실현
백엔드는 스파인-리프(spine-leaf)를 사용하여 비차단 GPU 통신을 실현
프론트엔드 링크는 서버와 코어를 연결하여 효율적인 트래픽을 실현
업계 동향에서는 하이퍼스케일러가 AI를 위해 데이터센터 인프라를 확장
목차
제1장 소개
데이터센터에 대한 설비 투자 배분
CRAH는 에너지 소비량이 적고 PUE가 낮아 대규모 데이터센터에 적합
데이터센터 설비 투자 : UPS가 건물 구조에 이어 최대 점유율을 차지
제2장 데이터센터 컴퓨팅 시스템 : MW당 평균 비용은 계속 상승
NVIDIA는 AI 서버 출하에서 여전히 선두 자리를 유지
제3장 데이터센터 네트워크 시스템 : MW당 평균 비용은 계속 증가
백엔드 네트워크는 800G에서 1.6T로, 프론트엔드 네트워크는 100G/400G에서 400G/800G로 진화
제4장 125MW 데이터센터의 설비 투자는 계속 증가, MW당 평균 비용도 증가
서버는 설비 투자의 약 60%를 차지한다. 하이엔드 AI 서버 도입이 진행됨에 따라 이 비율은 상승할 전망
KSM
영문 목차
영문목차
This report analyzes the capital expenditure structure of a typical hyperscale AI data center, breaking down the spending into physical infrastructure, IT computing facilities, and networking equipment. Among these, the investment in computing systems, which are servers, is the most significant. As the proportion of higher-end, higher-power AI servers in new projects continues to rise, the cost share of computing systems is expected to increase further.
Key Highlights:
Compute-led capex dominates overall spending.
Networks split into front-end and back-end for wide interconnect.
Back-end uses spine-leaf to deliver non-blocking GPU comms.
Front-end links connect servers to core, enabling efficient traffic.
Industry trend shows hyperscalers expanding data center infrastructure for AI.
Table of Contents
1. Introduction
Distribution of Capex for Data Center
CRAH Is Better Suited for Large-Scale Data Centers Since It Has Lower Energy Consumption, Thus Achieving Lower PUE
Data Center Capex: UPS Takes Largest Share After Building Structure
2. Data Center Computing Systems: Average Cost per MW Continues to Rise
NVIDIA Remains the Dominant Player in AI Server Shipments
3. Network Systems of Data Centers: Average Cost per MW Continues to Increase
Back-End Networks Advance from 800G to 1.6T; Front-End Networks Evolve from 100G/400G to 400G/800G
4. 125MW Data Centers CapEx Continues to Rise; Average Cost per MW Increasing
Servers Account for Roughly 60% of Capex; This Ratio to Rise as Adoption for High-End AI Servers Increases
