AI 산업구조 4층 : AI 모델

ChatGPT에 질문을 치면 답을 만드는 진짜 ‘두뇌’가 바로 AI 모델이에요. AI 산업구조 4층에 해당하는 이 층은, 5층 애플리케이션이 껍데기였다면 그 안을 실제로 채우는 알맹이입니다. 정확한 기술 용어로는 파운데이션 모델(foundation model)이라고 불러요. 이 글에서는 이 모델이 어떻게 만들어지는지, 왜 이렇게까지 돈이 많이 드는지, 오픈소스 모델과는 뭐가 다른지, 투자자라면 이 층에서 뭘 봐야 하는지 정리해보겠습니다.

AI 모델, 다시 짚어보기

‘파운데이션(foundation, 기초)’이라는 이름이 붙은 이유가 있어요. 이 모델 하나를 학습시켜 놓으면, 그 위에 번역·요약·코딩·이미지 생성처럼 다양한 기능을 추가 학습 없이, 혹은 아주 적은 추가 학습만으로 얹을 수 있거든요. 과거엔 번역 모델 따로, 요약 모델 따로 만들어야 했는데, 지금은 이 AI 모델 하나가 그 역할을 다 해냅니다.

그럼 이 ‘두뇌’는 대체 어떻게 만들어지는 걸까요?

모델은 어떻게 만들어질까요

1사전학습 (Pre-training)

인터넷 규모의 방대한 텍스트(책, 웹페이지, 논문 등)를 모델에게 읽혀서, 언어와 지식의 패턴을 통째로 익히게 하는 단계예요. 이 단계에서 수천~수만 개의 GPU가 몇 달간 쉬지 않고 계산합니다. 전체 학습 비용의 대부분(보통 90% 이상)이 여기서 발생해요.

2미세조정 (Fine-tuning)

사전학습만 마친 모델은 사실 ‘아무 말 대잔치’에 가까워요. 다음 단어를 그럴듯하게 예측할 뿐, 사람이 원하는 방식으로 대답하진 못하거든요. 그래서 사람이 직접 만든 질문-답변 예시 데이터로 한 번 더 학습시켜, “이렇게 답하는 게 좋은 답이다”라는 걸 가르칩니다.

3RLHF (인간 피드백 강화학습)

모델이 낸 여러 답변 중 사람이 “이 답이 더 낫다”고 순위를 매겨주면, 모델이 그 선호를 학습해서 점점 더 사람이 좋아하는 방식으로 답하게 됩니다. ChatGPT가 유독 ‘친절하고 안전하게’ 답하도록 다듬어진 것도 이 단계 덕분이에요. 사람이 계속 관여해야 해서, 비용은 상대적으로 적지만 시간과 인력이 많이 듭니다.

왜 이렇게 돈이 많이 들까요

최상위권 AI 모델 하나를 학습시키는 데 수천억~조 단위의 비용이 들어간다는 이야기, 들어보셨을 거예요. 크게 세 가지 비용이 겹쳐서 그렇습니다.

그래서 이 층은 아무나 뛰어들 수 없는 ‘자본 게임’에 가깝습니다. 실제로 최상위권 모델을 보유한 회사는 전 세계에서 손에 꼽을 정도로 적어요.

오픈소스 모델과는 뭐가 다를까요

GPT·Claude·Gemini는 모델의 설계도(가중치)를 공개하지 않는 폐쇄형(closed) 모델이에요. 반면 Meta의 Llama처럼, 누구나 내려받아 직접 돌려볼 수 있게 가중치를 공개하는 오픈소스 모델도 있습니다.

Meta가 Llama를 무료로 공개하는 이유는 자선 사업이 아니에요. 직접 과금하는 대신, 전 세계 개발자들이 자기 모델 위에서 서비스를 만들게 해서 생태계 자체를 장악하려는 전략입니다. 5층(애플리케이션)의 버티컬 앱 상당수가 오픈소스 모델을 골라 쓰는 것도, 비용을 아끼면서 자기 서버에서 직접 돌릴 수 있다는 장점 때문이에요.

투자자가 봐야 할 포인트

이 층에서 가장 자주 나오는 질문은 “과연 이 회사들에게 진짜 해자(moat)가 있는가”예요. 모델 성능은 경쟁사가 몇 달 안에 따라잡는 경우가 흔하고, 오픈소스 모델도 빠르게 격차를 좁히고 있거든요. 그래서 투자자라면 이런 부분을 같이 봐야 합니다.

결국 “누가 제일 똑똑한 모델을 만드는가”보다, “누가 계속 막대한 돈을 쏟아부을 수 있고, 그 돈을 낸 만큼 고객을 붙잡아 둘 수 있는가”가 더 중요한 질문이라는 뜻이에요.

마치며

AI 모델은 AI 산업구조에서 가장 화려해 보이지만, 동시에 가장 돈이 많이 드는 층이기도 해요. 그리고 이 막대한 학습 비용을 감당하려면, 결국 그 아래 인프라·클라우드(3층)를 대량으로 빌려야 합니다.

다음 글에서는 그 3층, 인프라·클라우드를 자세히 들여다보겠습니다. AWS·Azure·구글 클라우드가 실제로 어떤 사업을 하고, 냉각·전력 확보까지 왜 산업 이슈가 되고 있는지 살펴볼게요.