네트워킹 매출 149억 달러, 전년 대비 199% 성장. NVIDIA의 네트워킹 총괄 Gilad Shainer가 TD Cowen 무대에 올라 AI 팩토리 아키텍처, NVLink Fusion, Spectrum-X 이더넷, 그리고 CPO(Co-Packaged Optics)까지 — NVIDIA가 단순한 GPU 회사를 넘어 어떻게 '컴퓨팅 회사'로 진화했는지를 솔직하게 풀어놓았다.
$14.9B
2026년 네트워킹 매출
(분기 기준)
+199%
전년 동기 대비
네트워킹 매출 성장률
~10%
광 네트워크가 차지하는
컴퓨팅 전력 비중
Corporate Participant
Gilad Shainer
NVIDIA Corporation
Conference Call Participant
Sean Arthur O'Loughlin
TD Cowen, Research Division — VP & Research Associate
NVLink
InfiniBand
Spectrum-X
BlueField
AI Factory
NVLink Fusion
Co-Packaged Optics
MRC
Scale-Out
KV Cache
01
네트워킹 매출 $14.9B · 199% 성장의 비결
Question
진행 (Unknown Analyst)
네트워킹 수치가 149억 달러, 전년 대비 199% 성장입니다. NVL 랙 내 내재화 비중이 크지만, 이 모멘텀을 이끄는 핵심 구성 요소를 설명해 주시겠습니까?
Answer
Gilad Shainer · NVIDIA
우리가 설계하는 것은 단일 컴퓨팅 단위인 AI 팩토리입니다. 하나의 데이터센터 전체가 단일 컴퓨팅 단위처럼 동작하려면 막대한 네트워킹 인프라가 필요합니다.
구체적으로 보면, NVLink를 통한 Scale-Up, Scale-Out에서는 InfiniBand와 Spectrum-X 이더넷 두 가지 옵션, Spectrum FGS를 활용한 Scale-Across, 그리고 스토리지 프로세서로 활용하는 BlueField — 이 모든 인프라 영역이 동시에 성장하고 있습니다.
GPUs를 연결하는 방식이 곧 그 컴퓨팅 ASIC이 무엇을 할 수 있는지를 결정합니다. 하나의 방식으로 연결하면 서버 팜이 되고, 다른 방식으로 연결하면 슈퍼컴퓨터가 됩니다.
— Gilad Shainer, NVIDIA
02
Mellanox 인수 — "역사상 가장 성공적인 기술 M&A"
Question
Unknown Analyst
2020년 Mellanox 인수는 업계에서 가장 중요한 기술 M&A로 평가받습니다. 딜이 어떻게 성사되었나요? NVIDIA는 왜 그 시점에 네트워킹 자산 강화가 필요하다고 판단했을까요?
Answer
Gilad Shainer · NVIDIA
Jensen이 왔고, 우리는 이야기했고, 딜을 제시했고, 우리가 서명했습니다. 그게 전부입니다.
Jensen은 세상이 가속 데이터센터, AI 팩토리를 필요로 하며, NVIDIA가 디바이스 회사가 아닌 컴퓨팅 회사가 되어야 한다는 것을 알았습니다. 합류 후 놀라운 점은 NVIDIA가 Mellanox와 똑같이 작동한다는 것이었습니다 — 네트워킹·컴퓨팅·인프라가 모두 하나의 팀으로 움직였습니다. 더 큰 집이었지만, 집을 떠난 느낌이 전혀 없었습니다.
03
수직통합 전략과 NVLink Fusion의 탄생
Question
Unknown Analyst
GPU 판매에서 완전 통합 랙 판매로 전환하면서 에코시스템 파트너들의 반발도 있는 것 같습니다. NVLink Fusion은 이 흐름에 대한 반응인가요?
Answer
Gilad Shainer · NVIDIA
AI 팩토리는 모든 구성 요소가 균형 잡힌 시스템으로 작동해야 하기 때문에 수직적으로 설계합니다. 수십만 GPU 중 단 하나라도 데이터를 조금 늦게 받으면, 나머지 전부가 기다려야 합니다.
하지만 설계는 수직적으로 하되, 판매는 수평적입니다. GPU만, CPU만, 네트워킹만, NVLink만 따로 가져가도 됩니다. 모든 인터페이스는 공개되어 있습니다. NVLink Fusion은 그 철학의 결과물 — 고객이 자체 CPU나 GPU를 갖고 있더라도 NVLink를 별도 요소로 활용할 수 있게 합니다.
우리는 수직적으로 설계하지만, 수평적으로 판매합니다. 어떤 것도 블랙박스가 아닙니다 — 원하는 조각을 자유롭게 가져가세요.
— Gilad Shainer, NVIDIA
04
Spectrum-X — AI를 위해 태어난 유일한 이더넷
Question
Sean O'Loughlin · TD Cowen
Spectrum-X는 NIC 측과 스위치 측 모두에 인텔리전스를 두는 시스템적 접근을 취합니다. 트레이닝과 분산 추론 환경에서 어떤 이점을 제공하나요?
Answer
Gilad Shainer · NVIDIA
기존의 어떤 이더넷도 분산 컴퓨팅 워크로드를 위해 설계되지 않았습니다. 어느 것도 지터(Jitter) 제거를 목표로 하지 않았죠.
우리의 해법은 반대 방향입니다. 스위치가 모든 패킷을 무조건 가장 빠른 경로로 분산시킵니다. 당연히 데이터가 순서 없이 도착합니다. 그래서 GPU 옆에 SuperNIC이 필요합니다 — RDMA를 활용해 무순서로 도착한 데이터를 GPU 메모리에 올바른 순서로 배치하는 스마트 엘리먼트입니다. 단일 디바이스로는 절대 불가능한 일입니다.
05
MRC와 다중 라우팅 프로토콜 — Spectrum-X의 유연성
Question
Sean O'Loughlin · TD Cowen
MRC는 BGP처럼 Spectrum-X 위에 올라가는 또 다른 라우팅 프로토콜인가요?
Answer
Gilad Shainer · NVIDIA
정확합니다. Spectrum-X는 단일 프로토콜에 종속되지 않습니다. Adaptive RDMA 프로토콜, MRC, 그리고 대형 고객들이 자체 개발한 커스텀 프로토콜까지 지원합니다.
핵심은 어떤 프로토콜이든 제로 지터(Zero-Jitter)를 달성하도록 구현한다는 점입니다. 대규모 AI 팩토리를 운영하는 고객들은 자체 워크로드에 최적화된 방식으로 인프라를 조율하고 싶어 합니다 — Spectrum-X는 그 유연성을 제공합니다.
06
트레이닝과 추론 — 같은 문제, 새로운 인프라
Question
Sean O'Loughlin · TD Cowen
대규모 사전학습에서 멀티테넌트 추론 워크로드로 이동할 때 네트워킹 문제는 어떻게 달라지나요?
Answer
Gilad Shainer · NVIDIA
트레이닝과 추론은 모두 분산 컴퓨팅 워크로드이며, 둘 다 제로 지터를 요구합니다. Spectrum-X가 트레이닝용으로 구축한 것이 추론에도 그대로 작동합니다.
다만 추론은 새로운 인프라 수요를 만들었습니다. 에이전틱 AI 시대로 넘어가면서 KV 캐시 크기가 폭발적으로 증가했습니다. 그래서 BlueField·STX·CMX를 활용해 추론 전용 스토리지 인프라를 만들었습니다 — 복제 방식 대신 추론에 최적화된 설계로.
07
CPO와 구리 대 광섬유 — 자동차 대 비행기 비유
Question
Unknown Analyst
CPO 논쟁이 Scale-Out에서 Scale-Up으로 옮겨가고 있습니다. 양 영역에서 CPO가 가져올 수 있는 것은 무엇인가요?
Answer
Gilad Shainer · NVIDIA
구리 대 CPO 논쟁은 마치 자동차 대 비행기 논쟁과 같습니다. 뉴저지를 가야 한다면 차를 탑니다. 오늘 밤 대만행 비행기를 타야 한다면 차는 옵션이 아닙니다.
구리는 전력 소비가 없고, 비용 효율적이며 안정적입니다. 거리가 허용 범위 내라면 구리를 씁니다. 광 네트워크는 현재 AI 팩토리 전체 컴퓨팅 전력의 약 10%를 소비합니다. Co-Packaged Optics(CPO)는 그 소비를 줄여 더 많은 컴퓨팅을 가능하게 하는 기술입니다.
전력이 AI 팩토리의 #1 한계입니다. 광 네트워크는 이미 컴퓨팅 전력의 약 10%를 씁니다. Co-Packaged Optics는 그 소비를 줄여 더 많은 컴퓨팅을 가능하게 합니다.
— Gilad Shainer, NVIDIA
본 문서는 TD Cowen 제54회 연례 TMT 콘퍼런스(2026년 5월 28일)에서 진행된
NVIDIA Gilad Shainer의 발표 및 Q&A 전문을 편집·구성한 것입니다.
출처: BamSEC Transcripts