테마지도

데이터센터 네트워크 지도: GPU 사이에서 데이터는 어떻게 이동할까?

GPU가 많아져도 연결이 병목이면 작업이 기다립니다. scale-up과 scale-out, 어댑터·스위치·광연결의 역할과 공급 관계의 증거를 살펴봅니다.

2026.09.26 15:00읽는 시간 6분

작성일 2026-09-23 · 자료 확인 2026-09-23

GPU를 많이 꽂아도 한 작업을 나눠 처리하는 장치들이 중간 결과를 제때 주고받지 못하면 기다리는 시간이 생깁니다. 칩 가까운 연결, 서버와 랙 사이 연결은 맡는 범위가 다릅니다. 어댑터·스위치·케이블·통신 소프트웨어를 한 경로로 보되 같은 숫자로 순위를 매기면 안 됩니다.

이 글의 지도. GPU 가까운 scale-up 연결에서 서버 간 scale-out 네트워크로, 다시 어댑터·스위치·케이블과 광모듈로 시야를 넓힙니다. 이 부품은 하나의 경로에서 서로 다른 역할을 맡습니다. 부품 존재를 확인하는 일과 국내 기업의 납품·매출을 확인하는 일은 별개의 질문입니다. 따라서 지도에 회사명을 먼저 끼워 넣지 않고, 구간과 공개 증거의 단계부터 보겠습니다.

작업별로 달라지는 질문. 단일 GPU에서 끝나는 계산이라면 장치 간 통신이 주된 병목이라고 가정할 이유가 적습니다. 여러 GPU가 함께 학습하고 각 단계마다 결과를 합쳐야 한다면 교환과 동기화 시간이 중요해집니다. 대규모 추론도 모델을 나눈 방식에 따라 여러 장치가 데이터를 주고받을 수 있습니다. 같은 GPU 수라도 모델 크기·분할 방식·요청 길이·부하가 다르면 필요한 연결이 달라집니다.

과장하기 쉬운 지점. 공개된 최고 대역폭을 실제 애플리케이션의 처리량으로 옮기거나, 발표된 광 기술을 이미 모든 고객이 도입한 장비로 쓰면 근거 범위가 뒤바뀝니다. 특히 후보 기업이 특정 서버 업체의 공급망에 들어갔다는 말은 제품 소개만으로 검증되지 않습니다. 인증·계약·실적 공시가 없으면 가능성으로 남겨 두어야 합니다.

다음에 확인할 것. 연결이 GPU 도메인 안인지 서버 사이인지부터 분리하고, 성능표가 포트당인지 시스템 전체인지 확인합니다. 그다음 제품 출시 단계와 고객 적용 범위를 읽고, 국내 회사가 언급되면 실제 공급 내용과 매출 인식이 공시됐는지 따져 봅니다. 이렇게 순서를 세우면 기술 발전을 놓치지 않으면서도 투자 수혜를 성급히 확정하지 않을 수 있습니다.

GPU와 서버 간 연결 계층을 구분한 데이터센터 네트워크 지도 — 같은 GPU 연결이라도 칩 내부 도메인과 서버 간 네트워크의 역할은 다릅니다. 이미지를 누르면 원본을 크게 볼 수 있습니다.

GPU의 수보다 먼저 볼 것은 함께 하는 작업입니다

한 장치 안에서 끝나는 계산은 GPU 간 네트워크 이야기가 상대적으로 작습니다. 모델이나 데이터를 나눠 여러 GPU가 같이 일하면 사정이 바뀝니다. 각 장치가 계산한 값을 모으거나, 다음 단계에 필요한 데이터를 다른 장치로 보내야 합니다. NVIDIA의 NCCL 문서는 AllReduce가 여러 장치 값을 합쳐 모두에게 돌려주고 AllGather는 장치별 데이터를 모은다고 정의합니다. 이런 교환이 작업의 한 단계로 들어가면 연산 성능만으로 전체 완료 시간을 설명할 수 없습니다.^[2]

GPU가 기다린다고 해서 스위치가 반드시 범인이라는 뜻은 아닙니다. 모델 분할 방식, 메모리 접근, 네트워크 혼잡, 소프트웨어 통신 방식이 서로 영향을 줍니다. 업계 발표의 최고 대역폭은 해당 연결 구간의 사양일 뿐, 실제 학습 한 회의 완료 시간이나 추론 한 건의 응답시간을 그대로 말하지 않습니다. 작업을 먼저 묻는 이유입니다.

연결은 칩·서버·랙의 경계마다 달라집니다

NVIDIA는 scale-up을 한 계산 도메인 안에서 GPU를 밀접하게 묶는 연결, scale-out을 서버를 넘어 더 큰 클러스터로 확장하는 연결로 설명합니다. NVLink와 같은 전용 연결의 대역폭을 Ethernet 또는 InfiniBand 포트 수치와 나란히 두어 어느 쪽이 무조건 빠르다고 결론낼 수 없습니다. 연결하는 거리와 범위, 전송 방식이 다르기 때문입니다.^[1]

GPU 연결 계층과 숫자의 분모
구간	대표 역할	확인할 숫자	주의할 점
GPU 계산 도메인	장치 사이 빠른 교환	도메인·GPU당 대역폭, 지연	시스템 내부 구성에 한정
서버 간 네트워크	여러 노드 연결	NIC·스위치 포트, 혼잡	포트 최고치=작업 처리량 아님
물리 연결	전기·광 신호 전달	거리·형태·전력	모든 거리에 같은 방식 쓰지 않음

이 표는 제품별 수치 순위가 아니라 지도의 범례입니다. 한 회사가 발표한 랙 단위 합산 대역폭과 다른 회사의 포트당 대역폭은 분모부터 다릅니다. 같은 계층 안에서도 단방향·양방향, 총합·장치당, 실측·설계값을 구분해야 합니다.

데이터는 어떻게 왕복하나

쉽게 생각해 네 GPU가 한 계산을 나눠 맡는다고 가정해 보겠습니다. 먼저 각 GPU가 자기 몫을 처리합니다. 다음에는 필요한 중간 결과를 교환하고, 값을 합치거나 모읍니다. 모두가 다음 단계에 필요한 결과를 받을 때 계산이 이어집니다. 이 순서는 NCCL의 집단 통신 개념을 단순화한 설명이지 모든 모델이 정확히 네 단계로 움직인다는 뜻은 아닙니다.

분산 GPU 작업에서 계산과 중간 결과 교환의 네 단계 — NCCL의 집단 통신을 독자용 경로로 단순화한 개념도입니다. 이미지를 누르면 원본을 크게 볼 수 있습니다.

같은 서버 안의 밀접한 연결을 지나 다른 서버로 나가려면 네트워크 어댑터를 거칩니다. InfiniBand 설명에서 호스트 채널 어댑터(HCA)는 호스트가 네트워크에 참여하도록 하고 스위치는 패킷이 갈 포트를 선택합니다. Ethernet 쪽에서는 흔히 NIC라는 이름을 씁니다. 케이블과 광모듈은 신호가 실제 거리를 건너게 합니다. 이 장치들은 경쟁 관계라기보다 경로의 서로 다른 지점입니다.^[3]

연결 방식은 환경에 따라 다릅니다. 같은 랙 안의 짧은 거리와 줄을 건너는 거리는 배선, 전력, 유지보수의 조건이 다릅니다. NVIDIA의 광연결 설명은 스위치 가까이에 광 기능을 묶는 공동패키징 기술과 기존 플러그형 방식의 차이를 소개합니다. 이것은 제품 기술과 계획을 설명하는 자료이며 모든 데이터센터가 그 방식으로 교체됐다는 실적 보고는 아닙니다.^[5]

대역폭이 큰데도 느려질 수 있습니다

대역폭은 길의 폭에 가깝습니다. 하지만 많은 흐름이 동시에 몰리면 한 구간의 대기열이 길어지고, 메시지가 도착하는 시간도 흔들립니다. 여러 GPU가 서로의 결과를 기다리는 작업은 느린 구간 하나의 영향을 받을 수 있습니다. NVIDIA는 대규모 AI 트래픽에서 경로 조정과 혼잡 제어가 중요하다고 설명합니다. 특정 공급자가 발표한 개선 배율은 그 시험 조건에 한정됩니다.^[4]

또한 한 번의 대용량 전송과 작은 데이터의 빈번한 교환은 같은 대역폭 숫자로 체감 성능을 설명하기 어렵습니다. 포트가 800Gb/s라고 적혀 있어도 실제 애플리케이션이 그 속도로 계속 데이터를 받는다는 의미는 아닙니다. 연결의 지연시간, 혼잡 시 편차, 프로토콜과 소프트웨어 효율을 함께 측정해야 합니다. 수치가 서로 다른 계층에 있으면 비교 자체를 멈추는 것이 정확합니다.

GPU 어댑터 스위치 광연결의 역할을 나눈 네 패널 — 각 장치가 담당하는 경계와 시험 조건이 다릅니다. 이미지를 누르면 원본을 크게 볼 수 있습니다.

공급망 지도는 제품 역할과 납품 증거를 나눕니다

먼저 시스템 공급자의 역할부터 확인해 보겠습니다. NVIDIA는 NVLink, InfiniBand와 Ethernet 플랫폼을 설명하고 InfiniBand 문서는 어댑터·스위치·관리 구성요소를 명시합니다. 케이블과 광연결도 물리적 구성요소입니다. 그러나 이 지도가 곧 국내 특정 종목의 직접 매출 지도는 아닙니다. 어느 회사가 어떤 부품을 실제 고객에게 공급했는지는 그 회사의 공시·IR이나 고객 발표가 있어야 합니다.

네트워크 외에 서버 안에서 필요한 부품도 함께 보고 싶다면 AI 서버의 FC-BGA·MLCC 역할 지도로 이어가 보세요. 부품의 자리를 이해하는 것과 실제 납품 관계를 확인하는 것을 나눠 볼 수 있어요.

국내 기업도 제품의 역할까지는 공식 자료로 좁혀 볼 수 있습니다. 오이솔루션의 현재 제품 목록에는 광트랜시버가 올라와 있고, 2024년 IR은 데이터센터·서버·스토리지를 응용 영역으로 제시했습니다. 광 신호와 전기 신호를 주고받는 부품의 자리입니다. 다만 과거 IR의 기술 로드맵이나 현재 목록 등록만으로 2026년 AI 고객 납품량을 확인한 것은 아닙니다.^[6]^[7]

LS전선의 LS Simple 데이터센터 솔루션은 고밀도 통합배선과 랙·배선 경로를 설명합니다. 광트랜시버와 배선 시스템은 같은 연결망에 들어가도 맡는 일이 다릅니다. 이 두 회사를 한 제품의 경쟁사로 묶거나, NVIDIA 공급사라고 부르지 않습니다. 확인한 것은 회사가 제시하는 제품 역할이며 실제 고객·계약액·데이터센터 매출 기여는 별도 공시가 필요합니다.^[8]

전시나 기술 개발 발표는 첫 단계입니다. 고객 시험이나 인증은 다음 단계, 납품 계약과 매출 인식은 또 다른 단계입니다. 공급 관계를 확인하지 않은 채 GPU 증설량에 임의 단가와 점유율을 곱하면 숫자가 정교해 보여도 근거는 빈약합니다. 다음 업데이트에서는 제품 목록보다 실제 고객 적용과 매출 공개가 늘었는지 확인할 것입니다.

다음 발표에서 확인할 네 가지

먼저 연결 계층을 확인합니다. GPU 도메인인지, 서버 간인지, 센터 사이인지가 다르면 성능표의 분모가 달라집니다. 둘째, 실측 조건을 봅니다. 대역폭이 한 방향인지 양방향인지, 포트당인지 시스템 전체인지, 지연은 어떤 부하에서 잰 값인지 필요합니다. 셋째, 제품 상태를 읽습니다. 계획·시제품·상용 공급을 같은 칸에 넣지 않습니다. 마지막으로 실제 고객 적용과 매출을 확인합니다. 검증이 늦거나 제품 전환이 미뤄지면 관련 기대를 다시 낮춰야 합니다.