AI 산업구조 3층 : 냉각

데이터센터 얘기가 나오면 다들 서버·전력만 떠올리는데, 요즘 이 업계에서 가장 뜨거운(말 그대로) 화두 중 하나가 냉각입니다. GPU 수만 대가 한 곳에 모여 쉬지 않고 돌아가면, 그 열을 못 식혀서 오히려 성능이 떨어지는 역설적인 상황이 벌어집니다. 이 글에서는 왜 냉각이 갑자기 이렇게 중요해졌는지, 공랭과 수랭이 뭐가 다른지, 어떤 회사들이 이 시장을 주도하는지 정리해보겠습니다.

냉각, 다시 짚어보기

GPU는 계산을 할 때 엄청난 열을 냅니다. 열을 제때 식히지 못하면 칩이 스스로 속도를 늦추거나(스로틀링), 아예 꺼져버립니다. 그래서 데이터센터를 지을 때 서버·전력만큼이나 냉각 설비 설계가 핵심이 됐습니다.

사실 냉각은 예전부터 있던 기술입니다. 다만 요즘은 예전 방식(공기로 식히기)만으로는 감당이 안 될 정도로 상황이 달라졌습니다.

왜 갑자기 문제가 됐을까요

답은 GPU 한 대가 뿜는 열 자체가 몇 년 사이 몇 배로 늘었다는 데 있습니다. AI 성능 경쟁이 치열해지면서 칩 제조사들은 한 칩 안에 점점 더 많은 연산 유닛을 욱여넣었고, 그만큼 전력 소모(그리고 발열)도 함께 커졌습니다. 서버 한 랙(rack)에 들어가는 발열량이 예전 서버실 기준으로는 상상하기 힘든 수준까지 올라간 것입니다.

여기에 또 하나, AI 서버는 GPU를 최대한 촘촘하게 몰아넣는 구조라 발열이 한곳에 집중됩니다. 공간이 넓으면 공기로 식혀도 되는데, 좁은 공간에 열원이 밀집되면 공기만으로는 한계가 옵니다.

공랭 vs 액체 냉각

최신 고성능 GPU 서버는 이제 액체 냉각 없이는 설계 자체가 안 되는 수준까지 왔습니다. 칩 바로 위에 냉각판을 얹어 액체를 순환시키는 방식이 표준으로 자리 잡고 있고, 데이터센터를 새로 지을 때부터 아예 액체 냉각을 전제로 설계하는 경우가 늘고 있습니다.

액체 냉각도 두 갈래로 나뉩니다

액체 냉각 안에서도 방식이 갈려요. 다이렉트 투 칩(Direct-to-Chip)은 칩 위에 냉각판만 얹어 그 부분만 액체로 식히는 방식이고, 침지 냉각(Immersion Cooling)은 서버 전체를 특수 액체에 통째로 담가버리는 더 급진적인 방식이에요. 다이렉트 투 칩이 기존 서버 설계를 크게 안 바꿔도 되는 만큼 지금은 더 널리 쓰이고, 침지 냉각은 냉각 효율이 더 높지만 서버 자체를 새로 설계해야 해서 아직은 일부 최신 데이터센터 위주로 도입되고 있습니다.

냉각의 두 가지 비용 — 전기와 물

효율을 재는 지표, PUE

데이터센터가 얼마나 효율적인지 비교할 때 업계에서 쓰는 표준 지표가 PUE(전력사용효율, Power Usage Effectiveness)예요. 전체 전력 사용량을 서버(연산)에 쓴 전력으로 나눈 값인데, 1에 가까울수록 좋은 데이터센터입니다. 냉각에 전력을 많이 뺏길수록 이 숫자가 나빠지기 때문에, 최신 액체 냉각 데이터센터일수록 PUE가 낮게 나오는 경향이 있어요. 클라우드 회사들이 실적 발표에서 종종 이 지표를 언급하는 것도 그래서예요.

전기 못지않게 큰 문제, 물

냉각은 전기만 쓰는 게 아니에요. 증발식 냉각 방식은 물을 대량으로 증발시켜 열을 식히는데, 대형 데이터센터 한 곳이 하루 최대 500만 갤런(인구 5만 명 도시와 맞먹는 양)을 쓰기도 합니다. 이 물이 지역 상수원에서 나오다 보니, 최근엔 물 부족을 이유로 한 주민 반대가 크게 늘었어요. 2026년 1분기에만 130억 달러 규모 데이터센터 프로젝트 75건이 지역 반대로 지연됐을 정도예요.

그래서 물을 아예 안 쓰거나 훨씬 덜 쓰는 대안이 빠르게 나오고 있어요. 클로즈드 루프(closed-loop) 냉각은 같은 냉각수를 계속 재순환시켜서 새 물을 거의 안 끌어다 써요. NVIDIA는 최근 냉각수를 45도 정도의 ‘온수’ 상태로 순환시켜 증발 없이 열을 식히는 시스템을 발표하며 “데이터센터 안에서는 물 소비가 사실상 해결됐다”고 밝혔어요. 다만 이건 데이터센터 건물 안 얘기고, 그 전기를 만드는 발전소(특히 화석연료 발전)는 여전히 물을 많이 쓴다는 지적도 있어서, ‘물 문제가 완전히 사라졌다’기보다는 문제의 위치가 옮겨가고 있다고 보는 게 정확해요.

투자자가 봐야 할 포인트

냉각은 GPU·클라우드만큼 화제성은 크지 않지만, ‘숨은 필수재’라는 특징이 있습니다. AI 데이터센터가 늘어나는 한, 이 수요는 거의 자동으로 따라옵니다.

체크포인트는 “이 회사 매출에서 액체 냉각 비중이 얼마나 빠르게 느는가”입니다. 아직 공랭 매출이 큰 비중을 차지하는 회사라면, 액체 냉각 전환이 오히려 성장 기회가 될 수 있습니다. 반대로 이미 액체 냉각 강자인 회사는 시장이 커질수록 직접적인 수혜를 받는 구조입니다.

마치며

냉각은 GPU·클라우드처럼 화려하지 않지만, AI 산업구조에서 가장 조용히, 가장 확실하게 커지는 층이에요. AI 데이터센터가 하나씩 늘어날 때마다 냉각 수요는 거의 자동으로 따라오고, 공랭에서 액체 냉각으로 넘어가는 전환도 이미 되돌릴 수 없는 흐름이 됐습니다.

다만 이 층은 전기와 물이라는 두 가지 자원을 동시에 저울질해야 한다는 점에서 까다로워요. 전기를 아끼려 물을 많이 쓰는 방식(증발식 냉각)과, 물을 아끼려 전기를 더 쓰는 방식(공랭·클로즈드 루프) 사이에서 데이터센터마다 다른 선택을 하고 있고, 이 선택이 지역 주민 반대·환경 규제 같은 예상 밖의 변수로 이어지기도 합니다. 그래서 투자자라면 이 회사들의 매출 성장뿐 아니라, 어느 지역에 데이터센터를 짓고 있는지(물이 부족한 지역인지)까지 함께 봐야 해요.

열을 식히는 문제를 해결해도, 애초에 그 GPU를 돌릴 전력 자체를 못 구하면 아무 소용이 없습니다. 다음 글에서는 3층의 세 번째 주제, 전력을 자세히 들여다보겠습니다. 빅테크들이 왜 원자력 발전사와 직접 계약을 맺기 시작했는지 살펴보겠습니다.