칩 경쟁 넘어 CPO·레이저·광섬유까지…AI 패권 전쟁, 이제 ‘네트워크 공장’ 싸움
AI 경쟁의 전선이 바뀌고 있다. 불과 몇 년 전까지만 해도 누가 더 빠른 GPU를 만들고, 누가 더 많은 GPU를 확보하느냐가 AI 인프라 경쟁의 핵심이었다. 그러나 수십만 개를 넘어 백만 개에 이르는 AI 가속기를 한꺼번에 가동하는 시대가 열리면서 새로운 문제가 등장했다.
칩을 아무리 많이 갖고 있어도 서로 빠르고 안정적으로 연결하지 못하면 거대한 연산 능력은 무용지물이 된다.
AI 데이터센터의 핵심 경쟁이 GPU에서 네트워크로 확장되고 있는 이유다.
엔비디아는 차세대 Vera Rubin 플랫폼을 단순한 GPU 시스템이 아니라 거대한 ‘AI 팩토리’로 설계하고 있다. 새롭게 도입되는 Spectrum-X Ethernet Photonics는 스위치와 광통신 장치를 하나의 패키지에 결합하는 CPO(Co-Packaged Optics) 기술을 사용한다. 엔비디아는 이 기술이 백만 개 GPU 규모의 AI 팩토리를 연결하는 기반이 될 것이라고 밝히고 있다.
GPU가 빨라질수록 네트워크가 문제가 된다
대규모 AI 학습은 GPU 한 대가 혼자 계산하는 방식이 아니다.
수천, 수만, 수십만 개의 GPU가 모델의 일부를 나눠 계산한 뒤 끊임없이 데이터를 주고받고 결과를 동기화한다. 이 과정에서 어느 한 구간이라도 늦어지면 다른 GPU들은 계산을 끝내고도 기다려야 한다.
GPU가 쉬는 순간은 곧 막대한 비용의 낭비다.
Meta도 최근 자체 AI 네트워크 기술인 MetaRoCE를 공개하면서 대규모 AI 학습에서는 데이터 전송이 핵심 경로에 있으며, 가장 느린 전송이 전체 작업 속도를 결정한다고 설명했다. Meta는 이미 수십만 개 GPU를 여러 데이터센터와 지역에 걸쳐 운영하고 있으며 MetaRoCE를 처음부터 백만 GPU 규모의 Ethernet 네트워크를 염두에 두고 설계했다.
따라서 AI 인프라의 성능을 평가하는 기준도 달라지고 있다.
과거에는 GPU 한 개의 FLOPS와 HBM 용량이 중요했다면 이제는 GPU를 몇 개 보유했느냐보다 그 GPU를 실제로 몇 %나 쉬지 않고 일하게 만들 수 있느냐가 더욱 중요해지고 있다.
결국 백만 개 GPU 시대의 진짜 기술은 백만 개의 칩을 갖는 것이 아니라 백만 개를 하나의 거대한 컴퓨터처럼 움직이게 만드는 것이다.
젠슨 황은 왜 광통신 회사에 수십억 달러를 쏟아붓나
엔비디아의 최근 투자 행보를 보면 이 변화를 분명하게 확인할 수 있다.
엔비디아는 지난 3월 미국 광학 부품 기업 Lumentum에 20억 달러, Coherent에도 20억 달러를 투자한다고 발표했다. 두 계약에는 단순 지분투자를 넘어 향후 레이저와 광네트워크 부품 생산능력을 확보하기 위한 장기 구매와 공급 계약이 포함됐다.
이어 5월에는 세계적인 광섬유 제조업체 Corning과 장기 협력에 나섰다.
Corning은 미국 내 광통신 연결장치 생산능력을 10배로 확대하고 광섬유 생산능력도 50% 이상 늘리기로 했다. 노스캐롤라이나와 텍사스에는 세 곳의 새로운 생산시설도 건설한다.
이는 엔비디아가 더 이상 GPU 공급만으로 AI 시장을 지배할 수 없다는 사실을 누구보다 잘 알고 있다는 의미다.
GPU 뒤에는 NVLink가 있고, 그 뒤에는 NIC와 DPU가 있으며, 다시 Ethernet 스위치와 광트랜시버, 레이저, 실리콘 포토닉스, 광섬유가 있다.
한 부분이라도 부족하면 백만 개짜리 AI 공장은 돌아가지 않는다.
젠슨 황이 확보하려는 것은 단순한 광섬유가 아니다. GPU에서 네트워크 끝단까지 이어지는 AI 인프라 전체의 공급망이다.
CPO가 등장한 이유…전기 신호가 더 이상 따라가지 못한다
기존 데이터센터에서는 스위치 칩에서 나온 전기 신호를 회로기판을 통해 별도의 광트랜시버까지 보내고, 그곳에서 다시 빛으로 바꾸는 방식이 널리 사용됐다.
하지만 데이터 전송속도가 800Gbps, 1.6Tbps 수준으로 높아지고 스위치의 총 처리량이 수십에서 수백 Tbps로 증가하면서 이 방식은 한계에 부딪히고 있다.
전기 신호를 멀리 이동시키려면 더 많은 전력이 필요하고 열이 발생하며 신호 손실도 커진다.
CPO는 이를 근본적으로 바꾼다.
광학 장치를 스위치 ASIC 바로 옆에 배치해 전기 신호가 이동해야 하는 거리를 최소화하고 가능한 한 빨리 데이터를 빛으로 바꾸는 방식이다.
엔비디아의 Spectrum-X Ethernet Photonics는 최대 409.6Tbps 대역폭을 목표로 하며, 엔비디아는 기존 플러거블 광모듈 방식과 비교해 전력효율과 시스템 가동시간을 크게 개선할 수 있다고 설명하고 있다.
하지만 이 시장에 엔비디아만 뛰어든 것은 아니다.
Broadcom은 이미 102.4Tbps급 Tomahawk 6 CPO Ethernet 스위치를 출하하고 있다. Broadcom 역시 CPO를 AI 클러스터의 전력과 신뢰성 문제를 해결하는 핵심 기술로 보고 있으며 Tomahawk 6를 백만 개 이상 XPU로 확장할 수 있는 AI 네트워크를 겨냥해 설계했다.
GPU 전쟁에 이어 이제 스위치와 광통신 전쟁이 시작된 셈이다.
AWS·Google·Meta도 ‘거대한 한 대의 컴퓨터’를 만들고 있다
이 변화는 엔비디아만의 전략이 아니다.
AWS가 Anthropic과 구축한 Project Rainier에서는 현재 거의 100만 개에 달하는 Trainium2 칩이 Claude의 학습과 서비스에 사용되고 있다. 이런 규모에서는 개별 칩의 성능만큼 칩과 칩, 데이터센터와 데이터센터를 연결하는 네트워크가 중요해진다.
Google도 올해 공개한 Virgo Network를 통해 여러 데이터센터에 흩어진 100만 개 AI 가속기를 하나의 슈퍼컴퓨터처럼 연결하는 것을 목표로 하고 있다. Google의 8세대 TPU 시스템 역시 단일 Superpod 안에 9,600개의 칩을 연결하며, 더 큰 규모에서는 복수 데이터센터를 하나의 연산환경으로 묶는 방향으로 진화하고 있다.
Meta 역시 1기가와트급 AI 클러스터인 Prometheus를 여러 데이터센터 건물에 걸쳐 구축하고 있다. 이처럼 AI 클러스터가 하나의 건물을 넘어 여러 시설로 확장되자 Meta는 GPU와 데이터센터를 고속으로 연결하는 Backend Aggregation 네트워크를 별도로 개발하고 있다.
이제 데이터센터의 물리적 경계조차 희미해지고 있는 것이다.
광섬유 자체도 바뀐다…Microsoft는 HCF 승부
데이터센터 사이의 거리가 길어지면서 광섬유 자체의 혁신도 진행되고 있다.
Microsoft가 집중하고 있는 기술 가운데 하나가 **HCF(Hollow Core Fiber·중공심 광섬유)**다.
일반 광섬유는 유리 내부를 통해 빛을 전달하지만 HCF는 중심부를 비워 빛의 대부분을 공기를 통해 이동시킨다. Microsoft에 따르면 자사의 HCF 기술은 기존 단일모드 광섬유보다 데이터 전송을 최대 약 47% 빠르게 하고 지연시간을 약 33% 줄일 수 있다.
Microsoft는 Corning과 Heraeus까지 생산 파트너로 끌어들여 HCF 양산체계를 확대하고 있다.
다만 HCF는 CPO와 경쟁하는 기술이 아니다.
CPO가 서버와 스위치 주변에서 전기신호를 효율적으로 빛으로 바꾸는 기술이라면 HCF는 그 빛을 장거리로 더 빨리 전송하기 위한 기술이다.
결국 미래 AI 네트워크에서는 CPO와 레이저, 광트랜시버, 일반 광섬유와 HCF가 각각 다른 구간에서 함께 사용될 가능성이 높다.
광섬유가 새로운 전략물자가 된다
광통신 경쟁이 얼마나 빠르게 커지는지는 최근 공급계약에서도 드러난다.
미국 Verizon은 지난 9월 8일 Corning과 2032년까지 이어지는 수십억 달러 규모의 계약을 체결했다. 계약 대상은 8천만 마일 이상의 고밀도 광섬유와 연결장치다. Verizon은 이를 소비자용 통신망뿐 아니라 AI 하이퍼스케일러를 위한 미국 장거리 백본 구축에도 사용할 계획이다.
앞서 Zayo 역시 AI 인프라 수요에 대비해 Corning과 장기 광섬유 공급계약을 체결하고 2030년까지 1만5천 route-mile의 장거리 네트워크를 추가하겠다고 밝혔다.
AI 산업의 공급 부족이 GPU와 HBM을 넘어 레이저와 광모듈, 광섬유, 전력, 변압기, 냉각장비까지 확대되고 있는 것이다.
AI 패권의 다음 승부는 ‘네트워크 공장’
앞으로 AI 기업의 경쟁력을 단순히 “GPU를 몇 개 확보했는가”로 평가하기는 점점 어려워질 것으로 보인다.
같은 10만 개의 GPU를 가지고도 네트워크 병목과 통신 지연으로 GPU 이용률이 떨어지는 시스템과, 칩·메모리·네트워크·스토리지·전력·냉각까지 하나의 시스템으로 최적화한 AI 팩토리는 경제성이 전혀 다르기 때문이다.
특히 AI 모델이 거대해지고 Mixture-of-Experts와 분산 추론이 확대될수록 데이터 이동은 계산 못지않은 문제가 된다.
결국 AI 시대의 경쟁력은 세 단계로 이동하고 있다.
첫 번째는 좋은 AI 칩을 만드는 능력이다.
두 번째는 그 칩을 수십만 개 확보하는 능력이다.
그리고 마지막이 가장 어렵다.
수십만 개, 백만 개의 칩을 한 대의 컴퓨터처럼 움직이게 만드는 능력이다.
바로 이 지점에서 NVIDIA와 Broadcom, AWS와 Google, Microsoft와 Meta의 새로운 경쟁이 시작되고 있다.
젠슨 황이 광통신 기업에 수십억 달러를 투자하고 광섬유 생산능력까지 직접 챙기는 이유도 여기에 있다.
AI 패권전쟁은 이제 더 빠른 GPU 한 개를 만드는 싸움을 넘어섰다.
GPU 백만 개를 연결하고, 쉬지 않게 하고, 전력을 덜 먹게 만들며, 수백 킬로미터 떨어진 데이터센터까지 하나의 거대한 연산공장으로 묶는 싸움.
앞으로 AI 인프라의 진짜 경쟁자는 칩 회사가 아니라 어쩌면 세계에서 가장 거대한 ‘네트워크 공장’을 설계할 수 있는 회사가 될지도 모른다.
#AI인프라 #엔비디아 #젠슨황 #GPU #광통신 #CPO #실리콘포토닉스 #AI데이터센터 #Broadcom #AWS #Google #Meta #Microsoft
