AI 산업구조 3층 : 네트워킹·광통신

서버 한 대는 아무리 성능이 좋아도 혼자서는 대형 AI 모델을 학습시킬 수 없습니다. 그래서 데이터센터는 GPU 서버 수만 대를 촘촘한 네트워킹·광통신 인프라로 엮어, 마치 하나의 거대한 슈퍼컴퓨터처럼 동작하게 만듭니다. 3층 인프라·클라우드의 마지막 조각인 이 네트워킹·광통신을, 왜 최근 HBM 못지않게 주목받는지부터 정리해보겠습니다.

네트워킹·광통신, 다시 짚어보기

이 연결이 느리면 아무리 좋은 GPU를 잔뜩 모아놔도 성능이 반쪽짜리가 됩니다. AI 모델 하나를 학습시킬 때 GPU 수만 개가 계산 결과를 실시간으로 서로 주고받아야 하는데, 이 ‘주고받는 속도’가 곧 전체 학습 속도를 좌우하기 때문입니다.

InfiniBand vs Ethernet, 진짜 대결

이 층에는 지금 업계에서 가장 뜨겁게 벌어지는 진짜 기술 대결이 하나 있습니다. 바로 InfiniBand와 Ethernet의 싸움이에요. 둘 다 서버를 연결하는 통신 규격인데, 오랫동안 InfiniBand가 AI 클러스터의 표준으로 군림해왔습니다.

최근 흐름은 Ethernet 쪽으로 무게가 기우는 중이에요. 2025년 UEC(Ultra Ethernet Consortium)라는 업계 연합이 규격을 새로 정비하면서 Ethernet의 성능 격차를 빠르게 좁혔고, Meta 같은 회사는 이미 GPU 2만 4천 대 규모의 학습을 Ethernet만으로 InfiniBand와 대등한 성능까지 끌어올린 사례를 발표했어요. NVIDIA조차 자체 InfiniBand 스위치 외에 Ethernet 기반 제품(Spectrum-X)을 함께 내놓으며 양쪽에 다리를 걸치고 있는 상황입니다.

칩 옆으로 다가오는 광통신

최근엔 이 거리의 경계가 점점 가까워지고 있습니다. CPO(Co-Packaged Optics)라는 기술은 광통신 부품을 아예 GPU 패키지 안으로 끌어들이는데, HBM이 칩 옆에 붙는 방식과 원리가 비슷합니다. 광신호를 전기신호로 바꿔주는 변환 과정을 줄여서, 데이터가 오가는 속도를 더 끌어올리고 전력 소모도 줄이는 게 목적입니다.

이 기술은 NVIDIA·TSMC가 주도하고 있고, 광신호를 처리하는 핵심 반도체(DSP)는 Marvell이 앞서 있습니다. 즉 광통신도 점점 ‘먼 거리 배선’에서 ‘칩에 가까운 부품’으로 진화하고 있는 셈입니다.

투자자가 봐야 할 포인트

이 층은 HBM과 비슷한 패턴을 보일 가능성이 있는 곳입니다. AI 서버 수요가 늘수록 광트랜시버 같은 부품도 함께 품귀 현상을 겪을 수 있습니다.

체크포인트는 “이 회사가 얼마나 최신 세대 광통신 규격(전송 속도)을 앞서서 공급하고 있는가”입니다. AI 데이터센터가 요구하는 대역폭은 계속 커지고 있어서, 다음 세대 규격을 먼저 양산하는 회사가 계속 앞서가는 구조입니다.

마치며

클라우드·냉각·전력·네트워킹까지, 이제 3층 인프라·클라우드의 네 조각을 모두 살펴봤습니다. 서버 한 대를 완성하는 데도 이렇게 많은 요소가 함께 움직인다는 걸 알 수 있습니다.

다음 글부터는 2층 반도체 제조로 넘어갑니다. 메모리·CPU·저장장치, GPU 설계, 파운드리까지 — AI 산업구조의 밑바닥을 이루는 하드웨어 제조 공급망을 하나씩 살펴보겠습니다.