AI 산업구조 5 단계
AI 산업구조는 요즘 AI 관련주에 투자하시는 분들이라면 한 번쯤 궁금해하셨을 주제예요. 막상 “그래서 이 회사들이 서로 뭘 주고받는 관계인지” 물어보면 선뜻 답하기 어려운 경우가 많습니다. NVIDIA·TSMC·SK하이닉스·클라우드 기업·AI 모델 회사까지 이름은 익숙한데, 이들이 어떤 순서로 연결되어 있는지는 의외로 잘 정리가 안 되어 있거든요. 그래서 이번 글에서는 AI 산업구조가 실제로 어떤 흐름으로 이루어져 있는지, AI 반도체부터 클라우드·소프트웨어까지 최대한 쉽게 하나씩 짚어보려고 합니다.
AI 산업구조를 이루는 5개 레이어
우리가 AI에게 “이거 설명해줘”라고 묻고 답을 받는 짧은 순간. 사실 그 한 번의 대답 뒤에서는 다섯 개의 산업 층이 사슬처럼 맞물려 돌아가고 있습니다.
AI 산업은 아래에서 위로 쌓이는 다섯 개의 층으로 되어 있습니다. 아래층은 위층의 ‘재료’이고, 위층은 아래층의 ‘고객’이에요. 아래쪽은 AI 반도체를 만드는 제조 공급망이고, 위쪽은 그 위에서 돌아가는 서비스·소프트웨어입니다. 먼저 전체 그림을 가볍게 훑어본 다음, 맨 위 ‘앱’에서 출발해 맨 아래 ‘소재·장비’까지 — 즉 5층부터 1층까지 — 하나씩 자세히 내려가 보겠습니다.
레이어 5층 — 애플리케이션
여러분이 채팅창에 질문을 치면 답이 돌아오죠. 그런데 여기서 중요한 사실이 하나 있습니다. 이 앱 자체는 사실 ‘껍데기’에 가까워요. 예쁜 채팅창, 로그인 버튼, 대화 기록을 보여주는 화면일 뿐, 정작 여러분의 질문에 답하는 ‘머리’는 앱 안에 들어있지 않습니다.
앱이 하는 일
앱은 여러분의 질문을 어딘가로 보내고, 돌아온 답을 화면에 예쁘게 띄워줄 뿐입니다. 말하자면 손님과 주방 사이를 오가는 ‘창구’인 셈이에요. 그럼 실제로 요리를 하는 ‘머리’는 어디에 있을까요?
ChatGPT·Claude·Gemini는 어떻게 다른지, 왜 이 층이 ‘껍데기’로 불리는지 깊게 다뤘어요.
레이어 4층 — AI 모델
왜 ‘학습’이 핵심일까요
AI는 정해진 답을 찾아주는 검색기가 아닙니다. 인터넷 규모의 엄청난 텍스트를 미리 읽어 언어와 지식의 패턴을 통째로 익혀둔 상태여야, 처음 보는 질문에도 문장을 만들어 답할 수 있어요. 이 ‘읽어서 익히는’ 과정이 바로 학습(training)이고, 그 결과물이 하나의 거대한 모델입니다.
즉 앞 장의 앱과 이 모델의 관계는 이렇습니다. 앱은 질문을 두뇌(모델)에 전달하고, 두뇌가 만든 답을 받아 보여주는 창구예요. 두뇌 없는 앱은 빈 채팅창에 불과합니다.
모델이 어떻게 학습되는지, 왜 이렇게 비싼지, 오픈소스와는 뭐가 다른지 깊게 다뤘어요.
레이어 3층 — 인프라·클라우드
1클라우드
이유는 규모입니다. 모델을 학습시키는 데는 수개월 동안 어마어마한 계산이 필요하고, 학습이 끝난 뒤에도 전 세계 수억 명이 던지는 질문에 실시간으로 답하려면 쉬지 않고 돌아가는 거대한 컴퓨터가 있어야 합니다. 노트북은커녕, 데이터센터가 있어야 감당이 돼요. 그래서 모델 회사(OpenAI·Anthropic 등)는 직접 데이터센터를 다 짓는 대신, 이 클라우드를 빌려서 자기 두뇌를 돌립니다. AI 산업구조에서 클라우드는 ‘연산력을 도매로 파는 유통망’ 역할을 하는 셈이에요.
AWS·Azure·구글 클라우드는 뭐가 다른지, 왜 자체 AI 칩까지 만드는지 깊게 다뤘어요.
2냉각
GPU 수만 대가 쉬지 않고 돌아가면 엄청난 열이 발생합니다. 이 열을 제때 식히지 못하면 서버가 알아서 속도를 늦추거나 꺼져버려요. 그래서 데이터센터에는 서버·전력만큼이나 냉각 설비가 중요합니다. 최근엔 공기로 식히는 방식만으론 부족해서, 액체로 직접 열을 식히는 액체 냉각(liquid cooling)이 빠르게 늘고 있어요. 클라우드 회사 입장에서 냉각은 GPU를 사는 것 못지않게 큰 비용이자, 데이터센터를 얼마나 촘촘히 지을 수 있는지를 좌우하는 요소예요.
왜 갑자기 GPU 발열이 문제가 됐는지, 액체 냉각이 뭔지 깊게 다뤘어요.
3전력
GPU 수만 대를 쉬지 않고 돌리려면 웬만한 도시 하나가 쓸 법한 전력이 필요합니다. 최근엔 이 전력 확보 자체가 데이터센터 건설 속도를 좌우하는 병목으로 떠올랐어요. 그래서 마이크로소프트·아마존·구글 같은 빅테크들이 원자력 발전사와 직접 장기 전력 공급 계약을 맺고 있습니다. 미국 최대 원전 사업자인 Constellation Energy, 가스터빈·전력망 장비를 공급하는 GE Vernova 같은 회사들이 이 전력 공급망의 핵심 플레이어예요.
빅테크들이 왜 원자력 발전사와 직접 계약을 맺는지 깊게 다뤘어요.
4네트워킹·광통신
이 층이 하는 일은 단순합니다. 서버 한 대, 한 대는 아무리 성능이 좋아도 혼자서는 대형 AI 모델을 학습시킬 수 없어요. 그래서 수만 대를 촘촘한 광케이블로 엮어, 마치 하나의 거대한 슈퍼컴퓨터처럼 동작하게 만듭니다. 이 연결이 느리면 아무리 좋은 GPU를 잔뜩 모아놔도 성능이 반쪽짜리가 돼요.
HBM과는 뭐가 다른지, CPO 기술이 뭔지 깊게 다뤘어요.
레이어 2층 — 반도체 제조
1메모리·CPU·저장장치
1메모리 (DRAM·HBM)
여러분 PC의 RAM처럼, 계산할 데이터를 칩 바로 옆에 쌓아두는 초고속 창고입니다. 아무리 계산 칩이 빨라도 데이터를 제때 공급하지 못하면 칩이 놀아버리는데, 특히 AI는 다루는 데이터가 방대해서 이 공급 속도가 곧 AI 성능을 좌우해요. 그래서 등장한 게 HBM(고대역폭메모리)입니다. 여러 개의 메모리를 수직으로 쌓아 올려, 일반 DRAM보다 훨씬 빠르게 데이터를 주고받을 수 있게 만든 부품이에요.
이 HBM에서 앞서가는 회사가 한국의 SK하이닉스이고, 삼성·마이크론이 뒤를 잇습니다. 요즘 AI 붐에서 한국이 자주 언급되는 이유 중 하나가 바로 이 부분이에요.
2CPU
AI 계산 자체는 곧 이어질 GPU(칩 설계)가 압도적으로 유리하지만, CPU가 아예 안 쓰이는 건 아니에요. 모델을 학습시키는 과정은 GPU가 거의 도맡지만, 사용자의 질문을 받아 처리하고 결과를 다시 문장으로 돌려주는 ‘추론’ 앞뒤 단계, 그리고 서버 전체를 조율하는 역할은 지금도 CPU가 담당합니다.
이 시장은 전통적으로 Intel·AMD가 양분해 왔어요. 다만 최근 AI 붐에서는 GPU 회사들에 비해 상대적으로 존재감이 옅어졌다는 평가를 받는 층이기도 합니다.
3저장장치 (SSD·HDD)
메모리와 헷갈리기 쉬운데 역할이 달라요. 메모리가 지금 당장 계산에 쓸 데이터를 잠깐 올려두는 ‘작업대’라면, 저장장치는 학습 데이터나 완성된 모델 파일처럼 대용량 데이터를 오래 보관하는 창고입니다. 전원을 꺼도 데이터가 남아있다는 게 메모리와의 가장 큰 차이예요.
이 시장은 삼성·SK하이닉스(낸드플래시)와 샌디스크·시게이트·웨스턴디지털이 나눠 갖고 있어요. AI 데이터센터가 커질수록 이 대용량 저장 수요도 함께 늘어나는 층입니다.
레지스터부터 저장장치까지 메모리 계층 전체와, HBM이 왜 화제인지 깊게 다뤘어요.
2GPU·칩 설계 (팹리스)
이 반도체 제조 층 안에서 가장 비싸고 중요한 부품이 바로 AI 계산용 칩, GPU예요. AI 연산은 같은 종류의 계산을 동시에 어마어마하게 많이 해야 하는데, 여기에 특화된 게 바로 GPU입니다. 이 AI용 GPU를 설계하는 대표 회사가 NVIDIA예요.
설계와 생산은 완전히 분업
칩은 하늘에서 뚝 떨어지지 않아요. 손톱만 한 칩 하나 안에 수백억 개의 미세한 회로를 어떻게 배치할지 그리는, 극도로 정교한 설계 작업이 먼저 필요합니다. 그런데 NVIDIA에는 정작 칩을 찍어내는 공장이 없어요. 설계만 하고 생산은 남에게 맡깁니다. AI 산업구조 전체에서 가장 부가가치가 높은 층으로 꼽히는 곳이 바로 여기예요.
왜 하필 GPU가 AI 연산에 유리한지, NVIDIA의 진짜 해자는 뭔지 깊게 다뤘어요.
3파운드리
앞서 3층(설계)과 이 2층(생산)이 나뉘어 있다는 점에서, 이 산업의 중요한 특징이 드러납니다. 바로 ‘설계’와 ‘생산’이 완전히 분업돼 있다는 것이에요. 설계 잘하는 회사(NVIDIA)와 생산 잘하는 회사(TSMC)가 따로 있고, 둘은 서로가 없으면 반쪽짜리입니다.
왜 TSMC 하나가 첨단 반도체 생산을 사실상 독점하는지, 지정학 이슈까지 깊게 다뤘어요.
레이어 1층 — 소재·장비
최신 칩에 필요한 EUV(극자외선) 노광기는 전 세계에서 네덜란드의 ASML 단 한 회사만 만듭니다. 이 장비가 없으면 TSMC도 삼성도 최신 칩을 만들 수 없어요. 그래서 이 층은 산업 전체의 ‘급소’로 불립니다.
여기에 더해, 칩의 바탕이 되는 웨이퍼(실리콘 원판), 회로를 그릴 때 쓰는 감광액(포토레지스트), 각종 특수가스 같은 소재들이 공급돼야 공장이 돌아갑니다.
ASML의 EUV 노광기가 왜 산업 전체의 ‘급소’로 불리는지 깊게 다뤘어요.
AI 산업구조 5단계, 이렇게 정리됩니다
5층에서 1층까지 내려오며 살펴본 것처럼, AI 산업구조는 여러분이 던진 질문 하나가 다섯 개 층을 전부 거쳐서야 답이 되어 돌아오는 구조입니다.
마치며
여기까지가 AI 산업구조를 훑어보는 큰 지도였습니다. 핵심은 어떤 층도 혼자 존재하지 않는다는 점이에요. 앱은 모델 없이 빈 껍데기이고, 모델은 클라우드 없이 돌아가지 못하며, 클라우드는 칩 없이, 칩은 공장 없이, 공장은 장비 없이 아무것도 만들지 못합니다.
이 지도를 손에 쥐었으니, 이제 각 층을 하나씩 더 깊이 들여다볼 준비가 된 셈입니다. 다음 글부터는 5층 애플리케이션부터 1층 소재·장비까지, 이 다섯 개 층을 하나씩 자세히 파고들어 보겠습니다.
