엔비디아, 102.4Tb/s Spectrum-6 배치 본격화…MS·테슬라 등 초기 도입

엔비디아 공식 블로그에 따르면 102.4테라비트/초 처리 용량의 이더넷 스위치 시스템 Spectrum-6가 초대형 AI 데이터센터 배치 단계에 들어갔다. 마이크로소프트와 코어위브, 네비우스, SpaceXAI, 테슬라가 초기 도입사로 이름을 올렸다.

Spectrum-6는 엔비디아의 차세대 Vera Rubin 플랫폼에 포함되는 네트워크 장비다. 회사는 이전 세대 시스템보다 처리 용량을 두 배로 높였으며, ConnectX-9 SuperNIC과 결합해 Spectrum-X 이더넷 패브릭을 구성한다고 설명했다. 광모듈을 꽂아 쓰는 방식과 광학 부품을 스위치 칩과 함께 패키징하는 방식을 모두 지원하고, 액체 냉각 구성도 제공한다.

초기 수요는 대규모 AI 인프라 사업자에 집중됐다. 엔비디아는 코어위브와 마이크로소프트, 네비우스가 Spectrum-6를 포함한 Vera Rubin 기반 인프라를 먼저 제공할 사업자라고 밝혔다. SpaceXAI와 테슬라도 자체 AI 인프라에 이 장비를 들이는 초기 기업으로 언급됐다. 다만 고객별 도입 물량과 실제 운영 개시 시점은 공개하지 않았다.

AI 데이터센터가 수만~수십만 개의 가속기를 묶는 구조로 커지면서 네트워크는 전체 연산 성능을 좌우하는 요소가 됐다. 대규모 학습과 추론에서는 여러 GPU가 중간 결과를 계속 교환하기 때문에 한 구간의 혼잡이나 장애가 전체 작업을 지연시킬 수 있다. 엔비디아는 경로별 트래픽을 조절하고 장애 구간을 우회하는 기능으로 이런 병목을 줄인다는 구상이다.

회사가 제시한 수치에 따르면 Spectrum-X는 일반 이더넷보다 AI 네트워킹 성능이 최대 1.6배 높고, GPU 10만 개를 넘는 배치에서 최대 95%의 네트워크 효율을 유지한다. 멀티플레인 토폴로지를 하드웨어로 가속해 데이터센터에 필요한 스위치 수를 1.7분의 1 수준으로 줄일 수 있다고도 주장했다. 광학 기술을 적용한 구성은 전력 효율을 최대 5배 높이고 장애 사이 평균 시간을 최대 10배 늘린다는 설명이다. 이 수치는 엔비디아가 공개한 자체 측정 결과로, 독립적인 비교 검증 결과는 아니다.

Spectrum-6 자체는 지난 1월 Vera Rubin 플랫폼 발표 때 처음 소개됐다. 이번 발표의 핵심은 제품 사양을 다시 알리는 데 그치지 않고 실제 고객 배치가 시작됐다는 점이다. GPU뿐 아니라 스위치와 네트워크 카드, 냉각, 운영 소프트웨어까지 하나의 플랫폼으로 공급하려는 엔비디아의 수직 통합 전략도 한층 구체화됐다.

동시에 엔비디아는 표준 이더넷과 개방형 네트워크 운영체제, 복수의 RDMA 전송 모델을 지원한다고 강조했다. AI 인프라 사업자 입장에서는 특정 연산 가속기와 네트워크를 함께 최적화해 성능을 끌어올릴 수 있지만, 장비 가격과 공급 일정, 다른 업체 장비와의 상호운용성은 실제 도입 과정에서 따져봐야 할 변수로 남는다.

출처: NVIDIA Blog https://blogs.nvidia.com/blog/nvidia-spectrum-six-arrives-in-gigascale-ai-factories/
출처: NVIDIA Blog https://blogs.nvidia.com/blog/vera-rubin/