호스트 CPU, 예상 외의 성능 병목으로 떠올라
거대언어모델(LLM) 학습에서 자율 에이전트 실시간 추론으로 AI 패러다임이 전환되면서, 데이터센터 인프라의 병목이 GPU를 넘어 중앙처리장치(CPU) 공급망으로 확산하고 있다. 엔비디아 GPU와 고대역폭메모리(HBM)에 시장의 주목이 집중된 사이, 시스템 전체의 척추 역할을 하는 호스트 CPU 수요가 급증했으나 공급이 따라가지 못하고 있다.
더 심각한 것은 CPU 칩셋 자체 부족을 넘어, 이를 메인보드에 실장하는 전력관리반도체(PMIC)와 전압조절모듈(VRM)이 30주 이상 품귀 상태에 있다는 점이다. CPU는 있어도 보드를 완성할 수 없는 모순이 벌어지면서 완제품 서버 조립 라인이 멈춰 설 위험까지 직면했다.
세 층위의 동시 공급 제약
호스트 CPU 역할의 급격한 변화가 첫 번째 원인이다. LLM 훈련 당시 데이터를 GPU 내부 메모리에 한 번 적재하면 대부분 연산이 GPU 간 고속 인터커넥트 안에서 이루어져 호스트 CPU는 16~32개 PCIe 레인으로도 충분했다. 그러나 에이전틱 AI 환경에서 CPU는 수많은 가속기와 네트워크 카드, 고속 스토리지를 동시에 지휘해야 하면서 역할이 근본적으로 변했다.
PCIe 대역폭의 한계가 두 번째다. 과거에는 PCIe 16~32 레인이 시스템 병목을 일으키지 않았으나, 에이전틱 AI 워크로드는 100 레인 규모의 대역폭을 요구한다. 데이터 입출력(I/O) 트래픽이 기하급수적으로 증가하면서 기존 패브릭 인터페이스의 처리량이 턱없이 부족해진 것이다.
전원 공급 에코시스템의 체계적 부족이 세 번째 병목이다. 단일 랙 전력 밀도가 100킬로와트(kW) 이상으로 치솟으면서 초고밀도 CPU에 정밀한 전류를 공급하는 PMIC와 VRM의 수요가 급증했다. 이들 부품이 30주 이상 품귀되는 바람에 CPU 칩셋을 확보해도 메인보드 조립이 불가능한 악순환이 발생했다. 고다층 FC-BGA 기판 쇼티지도 이를 심화시켰다.
공급 제약의 구조적 배경
근본 원인은 TSMC 선단 공정 슬롯 부족이다. 에이전틱 AI 수요가 예상보다 급속도로 증가하면서 파운드리 용량이 턱없이 모자라게 되었다. 동시에 고성능 주변반도체를 소형화·집적도를 높이는 다층 기판 기술도 공급 속도를 따라가지 못하고 있다. 이는 일시적 부족이 아니라 산업 인프라가 신규 수요 증가 속도를 따라가지 못하는 구조적 미스매치를 드러낸다.
시장 파급과 기술 진화의 충돌
완제품 서버 조립 지연은 클라우드 데이터센터 사업자들의 AI 인프라 확충 일정에 직결된다. CPU 수급이 풀려도 보드 납기가 늦으면 결국 고객 납품이 지연되는 악순환이 벌어진다. 동시에 산업은 기존 PCIe만으로는 감당할 수 없는 차세대 인터페이스 기술(CXL 3.2, PCIe 6.4)로의 전환이 시급한 상황이다. 기술 진화 속도와 공급망 대응 속도 간의 차이가 점점 벌어지고 있다.
결론
AI 인프라의 병목이 GPU에서 CPU, 나아가 주변반도체와 패브릭 인터페이스로 확산하는 중이다. "CPU만 있으면 뭐하나, 보드가 안 돈다"는 현장의 목소리는 단순한 일시적 부족을 넘어, 반도체 공급망의 구조적 취약성을 드러낸다.
실무 행동 방안:
- 클라우드 사업자: CPU 확보뿐 아니라 보드·주변반도체 납기를 별도 추적하고 조기 예약 필수
- 반도체 제조사: TSMC 슬롯과 다층 기판 용량 확대 투자 가시화 필요
- 정책 입안자: K-반도체 주변반도체·패브릭 기술 자립화가 전략적 기회점
#CPU대란 #AI인프라 #서버주변반도체 #전력관리칩 #PCIe대역폭