Intro

성능 좋은 차는 늘어나는데, 도로가 꽉 막힌다면?

지난 몇 년 동안 AI 시장을 움직인 단어는 단연 GPU였습니다. 엔비디아를 비롯한 반도체 기업들이 주목받고, 글로벌 기업들은 GPU 확보 경쟁에 막대한 투자를 이어왔죠. 그런데 최근 AI 인프라 시장에서는 조금 다른 변화가 나타나고 있습니다.

GPU를 늘리는 것만큼, GPU와 GPU를 연결하는 네트워크에 대한 투자도 빠르게 증가하고 있는 것인데요. 특히 데이터센터와 데이터센터를 연결하는 DCI(Data Center Interconnect)가 새로운 핵심 인프라로 떠오르고 있습니다.

요즘 AI 업계 상황을 자동차에 비유해 볼까요?

아무리 성능 좋은 차가 많아도 도로가 막혀 있다면 제 성능을 발휘하기 어렵겠죠. 지금 AI 시장이 딱 그렇습니다. 좋은 차인 GPU는 빠르게 늘어나고 있지만, 그 차들이 데이터를 실어 나를 도로는 아직 충분히 넓어지지 않은 상황이죠. 과거에는 1~2차선 도로로도 충분했습니다. 하지만 생성형 AI 시대가 열리면서 상황이 달라졌습니다. AI 학습과 추론을 위해 수백, 수천 개의 GPU가 동시에 움직이고, 데이터센터 간에도 막대한 양의 데이터를 주고받아야 하기 때문입니다.

이제 빅테크들이 찾는 것은 더 많은 GPU만이 아닙니다. AI 인프라 전체를 연결하는 더 넓고 빠른 네트워크입니다. 대체 무슨 일이 벌어지고 있는 걸까요?

Intro

성능 좋은 차는 늘어나는데,

도로가 꽉 막힌다면?

GPU를 늘리는 것만큼, GPU와 GPU를 연결하는 네트워크에 대한 투자도 빠르게 증가하고 있는 것인데요. 특히 데이터센터와 데이터센터를 연결하는 DCI(Data Center Interconnect)가 새로운 핵심 인프라로 떠오르고 있습니다.

요즘 AI 업계 상황을 자동차에 비유해 볼까요?

아무리 성능 좋은 차가 많아도 도로가 막혀 있다면 제 성능을 발휘하기 어렵겠죠. 지금 AI 시장이 딱 그렇습니다. 좋은 차인 GPU는 빠르게 늘어나고 있지만, 그 차들이 데이터를 실어 나를 도로는 아직 충분히 넓어지지 않은 상황이죠.

과거에는 1~2차선 도로로도 충분했습니다. 하지만 생성형 AI 시대가 열리면서 상황이 달라졌습니다. AI 학습과 추론을 위해 수백, 수천 개의 GPU가 동시에 움직이고, 데이터센터 간에도 막대한 양의 데이터를 주고받아야 하기 때문입니다.

이제 빅테크들이 찾는 것은 더 많은 GPU만이 아닙니다. AI 인프라 전체를 연결하는 더 넓고 빠른 네트워크입니다. 대체 무슨 일이 벌어지고 있는 걸까요?

지난해 12월 발송했던 뉴스레터에서 엔비디아가 한국 시장에 GPU 26만 장을 공급 계획을 밝힌 소식을 소개해 드렸는데요. AI 산업에서 GPU가 중요하다는 사실은 이제 누구나 알고 있습니다. 하지만 최근에는 GPU 자체만큼이나 GPU들이 서로 데이터를 주고받을 수 있는 연결 인프라의 중요성이 커지고 있습니다.

생성형 AI 모델은 계속 대형화되고 있고, 이를 학습·운영하는 GPU 클러스터 규모 역시 커지고 있습니다. 문제는 GPU 숫자가 늘어날수록 GPU 간에 교환해야 하는 데이터도 기하급수적으로 증가한다는 점입니다.

이를 가장 상징적으로 보여준 기업이 AMD입니다. AMD는 CES 2026 기조연설에서 "수천 개의 GPU를 하나의 통합 시스템처럼 연결하는 네트워크가 차세대 AI 인프라의 핵심"이라고 강조했습니다.

GPU를 만드는 기업조차 GPU보다 연결을 이야기하기 시작한 것입니다.

▲AI 인프라 투자 현황 요약

/ 출처: 루멘

이 변화는 투자 흐름에서도 확인됩니다. 미국 통신 인프라 기업 루멘(Lumen)은 광케이블망을 구축하고 제공하는 기업입니다. 쉽게 말하면 '디지털 시대의 고속도로를 만드는 회사'죠.

최근 하이퍼스케일러와 AI 기업들은 데이터센터와 클라우드 환경을 연결하기 위해 대규모 네트워크 계약을 체결하고 있습니다. 이에 따라 루멘 역시 고속 광케이블망과 400Gbps급 연결 인프라 확충에 적극적으로 투자하고 있습니다.

GPU 경쟁이 치열해지는 동안, 그 GPU를 연결하는 기업들 역시 빠르게 성장하고 있는 셈입니다.

▲빅테크 4사 AI 투자 규모 그래프

/ 출처: Sherwood News

그렇다면 AI 기업의 투자 규모는 어느 정도일까요? 빅테크 4사인 알파벳, 메타, 마이크로소프트, 아마존의 2026년 설비투자 규모는 약 7,250억 달러로 추산됩니다. 이 막대한 자금은 여전히 GPU와 데이터센터 구축 등의 인프라에 투입되고 있습니다. 이 막대한 자금의 흐름에서 최근 가장 눈에 띄는 변화는 투자 규모보다 투자 방향입니다.

AI 경쟁 초기에는 누가 GPU를 더 많이 확보하느냐가 중요했습니다. 하지만 지금은 GPU들이 얼마나 빠르고 안정적으로 연결되는지가 경쟁력이 되고 있습니다. AI 데이터센터에서는 수백, 수천 개의 GPU가 실시간으로 데이터를 교환해야 합니다. 그러다보니 연결 지연이 조금만 발생해도 비싼 GPU가 작업하지 못한 채 대기 상태로 남게 됩니다. 결국 GPU 투자 효율을 좌우하는 요소는 네트워크가 된 것입니다.

대표적인 사례가 데이터센터 네트워크 장비 기업인 아리스타 네트웍스입니다. 이 회사의 주요 고객은 구글, 메타, 마이크로소프트, 아마존 같은 글로벌 빅테크들입니다. 세계 최고 수준의 AI 서비스를 운영하는 기업들이 연결 전문 기업에 적극적으로 투자하고 있다는 사실 자체가 네트워크 중요성을 보여주는 대표적인 사례라고 할 수 있습니다.

"그런데 이것이 빅테크만의 이야기일까요?"

사실 그렇지 않습니다. 최근 국내 기업들도 비슷한 변화에 직면하고 있습니다. AI 서비스 도입이 늘어나고, 멀티 클라우드 환경이 확산되면서 데이터는 더 다양한 장소에서 생성되고 활용되고 있습니다. 또한 많은 기업들이 주 데이터센터와 DR센터를 운영하고 있으며, 여러 IDC를 동시에 활용하는 구조로 전환하고 있습니다.

이 과정에서 중요한 것이 있습니다. 바로 데이터센터 간 연결 품질입니다. 이제 기업들은 단순히 데이터센터를 많이 확보하는 것이 아니라, 서로 떨어진 데이터센터를 얼마나 안정적으로 연결할 수 있는지를 고민하기 시작했습니다.

"데이터센터를 하나의 인프라로 연결할 수 있을까요?"

여기서 등장하는 것이 바로 DCI(Data Center Interconnect)입니다.

DCI는 단순히 두 지점을 연결하는 일반 전용회선과 달리, 데이터센터 간 대용량 데이터를 초고속·저지연으로 안정적으로 전송할 수 있도록 설계된 데이터센터 전용 연결 인프라입니다. 특히 대규모 데이터 복제, 클라우드 연동, AI 학습 데이터 전송처럼 대역폭과 안정성이 중요한 환경에서 강점을 발휘합니다. 이를 통해 기업은 서로 다른 지역의 데이터센터 간 데이터를 실시간으로 동기화하고, 재해복구(DR) 환경을 안정적으로 운영할 수 있습니다.

또한 특정 데이터센터의 자원이 부족할 경우 다른 센터의 자원을 활용할 수 있어 운영 효율성과 서비스 연속성을 높일 수 있습니다. AI 환경에서는 여러 데이터센터에 분산된 GPU 자원을 연계해 활용할 수 있는 기반이 되며, 향후 대규모 AI 인프라 운영 시 핵심 경쟁력으로 작용할 수 있습니다.

AI 시대가 본격화되면서 데이터센터 하나만으로는 모든 연산과 데이터를 처리하기 어려워지고 있습니다. 결국 여러 데이터센터를 함께 운영하게 되는데, 이때 데이터센터 간 데이터를 얼마나 빠르고 안정적으로 전달하느냐가 서비스 품질과 운영 효율을 결정하게 됩니다. 즉, GPU끼리 연결하는 문제를 넘어, 이제는 데이터센터와 데이터센터를 연결하는 문제가 새로운 경쟁력이 된 것입니다.

"그런데 이것이 빅테크만의 이야기일까요?"

"데이터센터를 하나의 인프라로 연결할 수 있을까요?"

여기서 등장하는 것이 바로 DCI(Data Center Interconnect)입니다.

DCI는 단순히 두 지점을 연결하는 일반 전용회선과 달리, 데이터센터 간 대용량 데이터를 초고속·저지연으로 안정적으로 전송할 수 있도록 설계된 데이터센터 전용 연결 인프라입니다.

특히 대규모 데이터 복제, 클라우드 연동, AI 학습 데이터 전송처럼 대역폭과 안정성이 중요한 환경에서 강점을 발휘합니다. 이를 통해 기업은 서로 다른 지역의 데이터센터 간 데이터를 실시간으로 동기화하고, 재해복구(DR) 환경을 안정적으로 운영할 수 있습니다.

AI 시대가 본격화되면서 데이터센터 하나만으로는 모든 연산과 데이터를 처리하기 어려워지고 있습니다. 결국 여러 데이터센터를 함께 운영하게 되는데, 이때 데이터센터 간 데이터를 얼마나 빠르고 안정적으로 전달하느냐가 서비스 품질과 운영 효율을 결정하게 됩니다.

즉, GPU끼리 연결하는 문제를 넘어, 이제는 데이터센터와 데이터센터를 연결하는 문제가 새로운 경쟁력이 된 것입니다.

▲국내 민간 데이터센터 시장 규모 추이 (2018~2028)

/ 출처: PwC

PwC와 한국데이터센터연합회에 따르면 국내 민간 데이터센터 시장은 지속적으로 성장할 전망입니다. 하지만 업계 전문가들이 주목하는 핵심 과제는 단순히 데이터센터 숫자를 늘리는 것이 아닙니다. 반도체와 전력처럼, 네트워크 역시 AI 생태계 확장을 위한 핵심 인프라로 꼽히고 있습니다. 실제로 국내 주요 IDC 사업자들도 멀티 데이터센터 운영을 확대하며 데이터센터 간 연결 경쟁력을 강조하기 시작했습니다.

이제는 데이터센터를 얼마나 크게 짓느냐보다, 그 데이터센터들을 어떻게 연결하느냐가 중요한 시대가 된 것입니다.