자산 가치는 시간이 흐르면서 낮아진다는 감가상각의 원리가 GPU 시장에서는 적용되지 않는 것으로 나타났다.
미국 벤처캐피털 앤드리슨 호로위츠(a16z)는 H200·B200·A100 등 주요 GPU 5종의 렌탈 가격 추이를 공개했다. GPU 가격 데이터 업체 오른(Ornn)의 지수를 분석한 결과, 올해 1월 1일 가격을 100으로 설정했을 때 10월 기준 5종 모두 연초보다 렌탈 가격이 오른 것으로 집계됐다.
상승률은 H200이 약 2.6배로 가장 컸고, B200·RTX PRO 6000·H100이 그 뒤를 이었다. 출시 6년 차인 A100 역시 연초보다 높은 가격을 유지했다.
주요 하이퍼스케일러가 서버 내용연수로 삼는 6년을 기준으로 계산한 정액 감가상각선과 비교해도, GPU 가격은 모두 기준선보다 최소 9%에서 최대 143% 높았다.
다만 비교적 구형인 A100과 H100은 전체 기간 가운데 감가상각 기준선보다 가격이 낮았던 기간이 더 길었다. 그러다 올해 4월 이후 가격이 급등해 기준선을 넘어선 것으로 나타났다.
가격 상승을 이끈 주요 요인으로는 AI 토큰 수요 증가가 꼽힌다.
AI 모델 중개 플랫폼 오픈라우터에 따르면 주간 토큰 사용량은 지난해 10월 말 약 4.9조 개에서 이달 초 약 167.7조 개로 30배 넘게 급증했다.
오픈소스 모델과 폐쇄형 모델 모두 사용량이 크게 늘었다. AI 에이전트의 확산과 맞물려 구형 GPU까지 수요가 커졌다는 설명이다.
다만 이 지수를 해석할 때는 주의가 필요하다. 오른 지수는 실시간 스팟 거래를 기준으로 하므로 하이퍼스케일러나 GPU 클라우드 업체가 공시한 가격, 장기 계약 가격과 차이가 날 수 있다.
앞으로의 GPU 렌탈 가격은 신형 칩과 고대역폭메모리(HBM)의 수급 상황, 데이터센터 구축 속도, 구글 텐서처리장치(TPU) 같은 대체 칩과의 경쟁에 따라 달라질 수 있다. 신형 GPU 공급이 늘면 구형 가격 하락이 빨라질 수 있지만, HBM 부족이 계속되면 한동안 구형 GPU가 가격을 지킬 수 있다는 분석이다.
이에 따라 GPU의 내용연수와 잔존가치 등 감가상각 기준은 물론 장기적인 가치 평가에도 큰 영향을 미칠 전망이다.