AI 산업구조 3층 : 클라우드

OpenAI·Anthropic 같은 AI 모델 회사는 정작 서버를 직접 짓지 않는 경우가 많습니다. 대신 클라우드를 빌려서 씁니다. AI 산업구조 3층에 속하는 이 클라우드 인프라는, AI 붐 이전부터 존재하던 사업인데 AI 시대를 만나 완전히 다른 체급의 돈이 오가는 시장이 됐습니다. 이 글에서는 클라우드가 정확히 뭘 파는 사업인지, AWS·Azure·구글 클라우드가 어떻게 다른지, 왜 이 회사들이 최근 자체 AI 칩까지 만들기 시작했는지 정리해보겠습니다.

클라우드, 다시 짚어보기

AI 모델 하나를 학습시키는 데는 수개월 동안 GPU 수만 대가 쉬지 않고 돌아가야 합니다. 이걸 회사가 직접 사서 짓기엔 초기 투자가 너무 크고, 학습이 끝난 뒤엔 그 많은 서버가 남아돌 수도 있습니다. 그래서 대부분의 AI 회사는 클라우드를 ‘연산력 구독 서비스’처럼 빌려 씁니다. 쓴 만큼만 내고, 필요 없어지면 반납하는 방식입니다.

사실 클라우드 자체는 AI 붐 전부터 있던 사업입니다. 웹사이트 호스팅, 기업 이메일 서버 같은 걸로 돈을 벌던 곳인데, AI 시대를 만나면서 완전히 다른 체급의 매출원이 생긴 것입니다.

3대 클라우드는 뭐가 다를까요

세 회사 모두 같은 걸 팔지만, AI 시대에 각자 다른 무기를 들고 나왔습니다. 특히 마이크로소프트는 OpenAI에 대규모로 투자하면서 Azure를 사실상 ChatGPT의 전용 인프라로 만들었고, 구글은 자체 칩(TPU)을 오래전부터 만들어온 덕에 NVIDIA 의존도가 상대적으로 낮다는 평가를 받습니다.

떠오르는 네오클라우드

최근 3대 클라우드 말고도 눈여겨볼 회사들이 생겼습니다. CoreWeave·Lambda Labs·Crusoe·Nebius 같은 회사들인데, 업계에서는 이들을 ‘네오클라우드(neocloud)’라고 부릅니다. AWS·Azure처럼 이메일·데이터베이스 등 온갖 서비스를 다 파는 게 아니라, 오직 GPU 대여에만 집중한 전문 클라우드예요.

이들의 무기는 가격과 속도예요. 범용 기능이 없는 만큼 GPU 하나에 더 집중해서, 같은 성능의 GPU를 3대 클라우드보다 훨씬 저렴하게 빌려줍니다. 실제로 OpenAI조차 Azure 용량만으로 부족해서 CoreWeave에서 추가로 GPU를 빌릴 정도로, 이제 무시 못 할 존재가 됐어요. 다만 이 회사들 대부분은 아직 적자 상태로 데이터센터를 계속 확장하고 있어서, ‘성장이 계속될 것’이라는 베팅에 가깝다는 점은 유의해야 합니다.

클라우드 회사가 칩까지 만드는 이유

최근 아마존·구글·마이크로소프트 모두 자체 AI 칩을 만들고 있습니다. 아마존의 Trainium, 구글의 TPU, 마이크로소프트의 Maia가 대표적입니다. 이상하게 보일 수 있습니다 — NVIDIA 칩을 그냥 사서 쓰면 되는데 왜 굳이 직접 만들까요?

이유는 두 가지입니다. 첫째, NVIDIA 칩은 품귀 현상에 가격도 비싸서, 이 의존도를 줄이면 원가를 낮출 수 있습니다. 둘째, 자체 칩은 자기 클라우드에 최적화해서 설계할 수 있어 효율을 더 끌어올릴 여지가 있습니다. 다만 아직 최상위 AI 학습 성능에서는 NVIDIA를 완전히 대체하진 못해서, 대부분 NVIDIA 칩과 자체 칩을 함께 쓰는 ‘혼합 전략’을 취하고 있습니다.

투자자가 봐야 할 포인트

클라우드 3사는 지금 천문학적인 설비투자(CAPEX)를 데이터센터에 쏟아붓고 있습니다. 이게 투자자들 사이에서 가장 뜨거운 논쟁거리이기도 합니다.

클라우드 회사들의 설비투자 규모는 매 분기 실적 발표마다 시장이 가장 주목하는 숫자입니다. 너무 많이 지으면 “과잉투자 아니냐”는 우려가, 너무 적게 지으면 “AI 경쟁에서 뒤처지는 것 아니냐”는 우려가 나오는, 균형이 까다로운 지점입니다.

마치며

클라우드는 서버를 빌려주는 것처럼 보이지만, 사실 그 서버가 쉬지 않고 돌아가려면 열을 식히는 일이 서버 자체만큼이나 중요합니다.

다음 글에서는 3층의 두 번째 주제, 냉각을 자세히 들여다보겠습니다. GPU 발열이 왜 이렇게 큰 문제가 됐는지, 액체 냉각이 왜 뜨고 있는지 살펴보겠습니다.