모두가 GTC 2025에서 놓친 진짜 이야기 – NVIDIA의 평범한 발표가 생각보다 중요한 이유
키노트 발표 다음 날, NVIDIA 주가는 하락했습니다. 일주일 후, 투자 심리는 식었습니다. 하지만 알아야 할 것을 안다면, GTC 2025는 NVIDIA가 지난 5년간 만든 가장 중요한 전략적 움직임으로 기록될 수 있습니다.
NVIDIA는 사람들에게 혁신적인 칩, 놀라운 데모, 획기적인 AI 발표와 같은 자극적인 것을 주지 않았습니다. 대신, 더 조용하지만 잠재적으로 훨씬 더 강력한 것을 전달했습니다.
인프라. 생태계. 플랫폼 지배력. 헤드라인을 팔지 않았습니다. 하지만 미래를 팔고 있습니다.
파트 1: 모두가 칩만 보고 있었지만, 그것이 전부가 아닙니다
먼저 확실히 해둡시다. 블랙웰 로드맵은 놀라운 일이 아니었습니다.
- 블랙웰 울트라 (2025년 하반기)
- 루빈
- 루빈 울트라
- 파인만
성능 향상은 상당했습니다. 루빈 울트라의 경우 최대 14배까지 향상되었지만 예상했던 수준입니다. 왜냐하면 NVIDIA는 이미 시장이 꾸준한 발전을 예상하도록 훈련시켰기 때문입니다.
그렇다면 투자자들은 왜 시큰둥한 반응을 보였을까요?
새로운 것을 찾고 있었기 때문입니다. 하지만 진짜 가치는 새로운 칩에 있는 것이 아니라, NVIDIA가 칩을 중심으로 시스템 설계를 어떻게 재정의하고 있는지에 있습니다.
파트 2: 공동 패키지 광학 소자(CPO)는 숨겨진 승부수이며, 판도를 바꿉니다
헤드라인을 장식하지는 못했지만, CPO는 GTC 2025에서 가장 전략적으로 중요한 발표일 수 있습니다.
수년간, 네트워킹은 AI 클러스터 확장의 병목 지점이었습니다. GPU도 아니고, 메모리도 아닌 상호 연결이 문제였습니다. CPO는 바로 이 문제를 해결합니다.
- 10배 향상된 신뢰성
- 3.5배 향상된 에너지 효율
- 1.3배 더 빠른 구축
- 플러그형 트랜시버 대비 낮은 비용 및 지연 시간
업계 베테랑들은 CPO가 새로운 기술이 아니라는 것을 알고 있습니다. Intel과 Cisco도 2000년대 초반에 연구하고 있었습니다. 하지만 아무도 대규모로 통합하지 못했습니다. NVIDIA가 해낸 것입니다.
NVIDIA는 기술을 발명한 것이 아닙니다. 제품화하여 스택에 통합했습니다.
핵심은 무엇일까요? CPO는 GPU 속도를 빠르게 할 뿐만 아니라 NVIDIA 클러스터를 AMD 또는 하이퍼스케일러 ASIC보다 비용 효율적으로 만듭니다. 이것은 시스템 수준의 해자이며, 월스트리트는 아직 가격에 반영하지 않았습니다.
파트 3: Dynamo는 CUDA와 똑같지만, 추론을 위한 것입니다
추론은 차세대 조 단위 시장이 있는 곳입니다.
대규모 모델을 훈련하는 것은 비싸지만, 일회성 비용입니다. 추론, 즉 해당 모델을 하루에 수천, 수백만 번 실행하는 것이 진정한 컴퓨팅 비용입니다.
NVIDIA Dynamo가 등장했습니다. 조용히 소개된 Dynamo는 대규모 추론 파이프라인을 관리하기 위해 특별히 제작된 새로운 소프트웨어 레이어입니다.
핵심 구성 요소:
- GPU 플래너: 컴퓨팅 할당 방식을 최적화합니다.
- 스마트 라우터: 캐시 및 컨텍스트 인식을 사용하여 AI 요청을 라우팅합니다.
- 저지연 라이브러리: 데이터 이동 속도를 높입니다.
- 메모리 관리자: 비활성 모델 데이터를 콜드 스토리지에 사용하여 비용을 절감합니다.
NVIDIA는 실제 추론 작업에서 2배에서 30배의 성능 및 비용 이점을 제공할 수 있다고 말합니다.
하지만 더 깊은 의미는 다음과 같습니다. Dynamo는 오픈 소스이지만, NVIDIA 하드웨어, NVIDIA 상호 연결, NVIDIA 설계 클러스터에서 가장 잘 실행될 것입니다.
이것은 CUDA 전략과 똑같습니다. 단지, 이제 전장은 훈련이 아닌 추론입니다. 그리고 추론은 AI 도입의 롱테일 수익 창출원입니다.
파트 4: GTC 이후 현실 점검 – 실제로 무엇이 바뀌었나
1. NVIDIA는 "칩 제조업체"에서 "플랫폼 소유자"로 전환했습니다.
GTC에서 NVIDIA는 칩을 판매하지 않았습니다. 전체 AI 컴퓨팅 스택에 대한 소유권을 주장하고 있었습니다. 하드웨어 → 상호 연결 → 클러스터 설계 → 배포 소프트웨어 → 엔터프라이즈 통합.
이것이 차이점입니다. AMD는 사양을 따라올 수 있습니다. TPU는 효율성을 제공할 수 있습니다. 하지만 NVIDIA처럼 전체 수직 계열화를 소유한 곳은 없습니다.
2. 이제 기업이 손닿는 범위 안에 있습니다
수년간, 대규모 AI 실행은 하이퍼스케일러만이 할 수 있는 일이었습니다. CPO와 Dynamo를 통해 NVIDIA는 비용 곡선을 무너뜨렸습니다.
이는 다음과 같은 기회를 열어줍니다.
- 내부 LLM을 구축하는 기업
- 실시간 추론을 실행하는 의료 회사
- 클라우드 종속 없이 모델 기반 서비스를 도입하는 금융 기관
이는 향후 12~24개월 내에 완전히 새로운 TAM(총 시장 규모)을 열 수 있습니다.
3. 하이퍼스케일러는 이제 문제와 의존성을 갖게 되었습니다.
AWS, Google Cloud, Azure는 모두 NVIDIA 의존도를 줄이고 싶어합니다. 하지만 CPO/Dynamo가 곧 출시될 NVIDIA 시스템에 통합됨에 따라, 이러한 클라우드 제공업체는 NVIDIA 스택에 대한 성능 및 비용 의존도가 훨씬 더 높아졌습니다.
그들은 자체 칩을 계속 구축하겠지만, 2025~2026년에도 NVIDIA는 여전히 중요한 공급업체로 남을 것입니다.
파트 5: 투자자들이 실제로 주목해야 할 것
주가 하락은 잊으세요. GTC는 하드웨어의 순간이 아니라 전략적 변곡점이었습니다.
GTC 이후 투자자들이 추적하는 것은 다음과 같습니다.
- Dynamo 도입 지표: 2분기/3분기 실적 발표에서 엔터프라이즈 및 중견 클라우드 사용자의 언급이 증가할 것으로 예상됩니다.
- 하이퍼스케일러 행동: AWS/Azure가 대규모 TPU 배포를 지연하는 경우, 이는 NVIDIA가 여전히 게임을 주도하고 있다는 신호입니다.
- TSMC 용량 할당: NVIDIA의 로드맵 가속화는 첨단 노드 수요(N3P 이상)가 더욱 타이트해질 것임을 의미합니다. TSMC가 보이지 않는 실력자입니다.
- 로봇 공학 언급: Jensen은 여러 번 암시했습니다. Omniverse 및 블랙웰 울트라와 결합하여 GenAI가 성숙한 후 시뮬레이션+로봇 공학이 다음 이야기가 될 것으로 예상됩니다.
GTC 2025는 눈부시지 않았지만, AI 인프라의 다음 단계를 정의했습니다
깜짝 제품 출시 또는 화려한 파트너십을 기대했다면 GTC 2025는 실망스러웠을 것입니다. 하지만 NVIDIA가 장기적인 투자를 어디에 하고 있는지를 주시했다면, 전략적 깊이에 대한 훌륭한 강의였을 것입니다.
CPO는 네트워킹 업그레이드가 아니라 해자입니다. Dynamo는 단순한 추론 오케스트레이션이 아니라 차세대 CUDA입니다. 그리고 NVIDIA는 더 이상 헤드라인을 쫓지 않고 AI 경제를 위한 운영 체제를 구축하고 있습니다.
시장은 이를 소화하는 데 시간이 걸릴 수 있습니다. 하지만 다음 주요 AI 모델이 출시되거나 기업이 실적 발표에서 Dynamo를 언급하기 시작하면 GTC 2025의 진정한 가치는 나중에 분명해질 것입니다.