GPU 렌탈 가격, 올해 들어 5종 모두 상승…출시 6년 된 A100도 연초보다 비싸

미국 벤처캐피털 앤드리슨 호로위츠(a16z)는 H200, B200, A100 등 주요 GPU 5종의 렌탈 가격 추이를 공개했다. GPU 가격 데이터 업체 오른(Ornn)의 지수를 분석했더니, 올해 1월 1일 가격을 100으로 놓았을 때 10월 현재 5종 모두 연초보다 올랐다. 상승 폭은 H200이 약 2.6배로 가장 컸고 B200, RTX PRO 6000, H100이 뒤를 이었다. 출시 6년째인 A100도 연초보다 높은 가격을 유지했다.

감가상각은 장비의 가치가 시간이 지날수록 줄어든다고 보고 구입비를 일정 기간에 나눠 비용으로 처리하는 회계 방식이다. 대형 클라우드 사업자는 서버의 내용연수를 6년으로 잡아 정액법으로 가치를 깎는다. 그런데 GPU 임대료가 장부상 가치 하락 속도를 따르지 않고 오히려 오른다면, 같은 장비가 더 많은 수익을 내고 있다는 뜻이어서 내용연수와 잔존가치를 계산하는 근거가 달라진다.

대형 클라우드 사업자들이 서버 내용연수로 삼는 6년을 적용한 정액 감가상각선과 견줘도 5종 모두 기준선보다 최소 9%에서 최대 143% 높았다. 상대적으로 오래된 A100과 H100은 전체 기간 중 기준선 아래에 있던 시간이 더 길었지만, 올해 4월 이후 가격이 급등하면서 기준선을 웃돌았다.

가격을 끌어올린 주된 요인은 AI 토큰 수요 확대로 꼽힌다. AI 모델 중개 플랫폼 오픈라우터에 따르면 주간 토큰 사용량은 지난해 10월 말 약 4.9조 개에서 이달 초 약 167.7조 개로 30배 넘게 뛰었다. 오픈소스와 폐쇄형 모델 모두 사용량이 크게 늘었고, AI 에이전트가 퍼지면서 오래된 GPU까지 수요가 번졌다는 설명이다.

H200, B200, H100은 엔비디아의 데이터센터용 GPU이고 A100은 2020년 출시된 구형 모델이다. 신형이 나온 뒤에도 구형 가격이 오른다는 것은 신형 공급이 수요를 따라가지 못하고, 에이전트 같은 새 수요가 성능이 낮은 GPU까지 끌어 쓰고 있다는 신호로 읽힌다.

해석에는 주의가 필요하다. 오른 지수는 실시간 현물(스팟) 거래를 기준으로 하기 때문에 대형 클라우드 업체의 공시 가격이나 장기 계약 가격과 다를 수 있다. 앞으로의 렌탈 가격은 신형 칩과 고대역폭메모리(HBM)의 수급, 데이터센터 구축 속도, 구글 TPU 같은 대체 칩과의 경쟁에 달려 있다. 신형 공급이 늘면 구형 가격 하락이 빨라질 수 있지만 HBM 부족이 계속되면 당분간 구형도 가격을 지킬 수 있다. 이는 GPU의 내용연수와 잔존가치를 어떻게 잡을지에도 영향을 줄 전망이다.

기업 입장에서는 GPU를 사서 쓸지 빌려 쓸지 판단하는 기준도 바뀔 수 있다. 렌탈가가 오르는 국면에서는 이미 GPU를 보유한 쪽이 유리하지만, 신형 공급이 늘어나 가격이 꺾이면 비싸게 산 장비의 장부가치가 흔들린다. 그래서 투자 판단에서 렌탈 지수를 함께 보는 일이 늘어날 것으로 보인다.