Semi Doped · 팟캐스트MUST ASSET — 유튜브 매거진

CapEx는 이제 메모리 세금이다

하이퍼스케일러가 컴퓨트 대신 메모리 값을 치르고 있는 2026년 봄 — DeepSeek V4가 NAND 수요 구조를 어떻게 바꾸는가

2025년 5월 4일출연: Austin Lines (Chip Strat) · Vic Shaker (Semi-Exponent) · 테마: NAND/HBM, 하이퍼스케일러 CapEx, DeepSeek V4, SanDisk, Samsung, 클라우드

3줄 요약

빅4 하이퍼스케일러 2026년 CapEx가 약 $7,000억으로 확대됐지만, 증액분의 상당 부분은 추가 GPU 구매가 아니라 메모리·스토리지 가격 인상을 충당하는 데 쓰이는 구조 — Microsoft만 해도 $250억이 컴포넌트 가격 상승분.
SanDisk는 분기 매출 $60억(YoY +251%), 매출총이익률 78.4%를 기록하며 5개 멀티이어 공급계약(RPO $420억)을 체결, NAND 비즈니스의 탈상품화를 공식 선언.
DeepSeek V4는 KV 캐시를 SSD 중심 아키텍처로 전면 재설계했으며, 에이전틱 AI에서 캐시 히트율 95~99%를 달성 — NAND 플래시 수요의 구조적 확대를 뒷받침하는 기술적 근거로 부상.

한눈에 — 다룬 종목·테마

종목/테마	발언자	톤	핵심 한 줄
하이퍼스케일러 CapEx	Austin · Vic	구조 우려	증액분이 컴퓨트가 아닌 메모리 가격 인상 충당에 소진
$SNDK (SanDisk)	Austin · Vic	Bullish	매출 YoY +251%, GM 78%, 멀티이어 NBM 계약 체결
$005930 (Samsung) HBM	Austin · Vic	Bullish	HBM4 첫 상업 출하, 2026년 HBM 매출 3배 전망
DeepSeek V4 · NAND 구조	Vic	구조적 호재	KV 캐시 SSD 오프로드로 추론 토큰 단가 급락, NAND TAM 확대
클라우드 CapEx 상세	Austin	혼조	MS $250억 컴포넌트 비용, AWS 메모리 부족이 클라우드 이전 가속

하이퍼스케일러 CapEx구조 우려

"CapEx를 늘리고 있지만, 추가 GPU는 한 개도 안 산다"

Austin Lines · Vic Shaker · 2025 Q1 어닝 시즌 분석 ·

💡 핵심 통찰

매 분기 CapEx 증액의 논리는 항상 "더 많은 컴퓨트, 더 많은 플롭스"였다. 그런데 이번 분기는 달랐다. CapEx는 늘었지만 그 이유가 "컴포넌트 가격 인상 충당"이라는 고백이 나왔다. 메모리·스토리지·광섬유 가격이 올라서, 이미 약속한 것들을 사기 위해 더 많은 돈을 내야 한다는 이야기다. ROI 없는 CapEx 증가, 사실상 메모리 업체에 내는 세금이다.

빅4 2026년 CapEx 합산

~$7,000억 (2025년 ~$5,000억 대비)

MS — 컴포넌트 가격 인상분

$250억 (2026년 CapEx 중)

무슨 얘기였나: Microsoft CFO Amy Hood는 2026년 캘린더 연도 CapEx $1,900억 중 $250억이 "높아진 컴포넌트 가격", 특히 메모리·스토리지 비용 상승분을 커버하기 위한 것이라고 밝혔다. 불과 몇 년 전 Microsoft의 분기 CapEx 전체가 $250억 수준이었다는 점을 감안하면 규모가 얼마나 커졌는지 실감된다.

Meta도 같은 말을 했다: Zuckerberg는 CapEx 상향 조정의 대부분 이유로 "높아진 컴포넌트 비용, 특히 메모리 가격"을 들었다. Google도 CapEx를 올렸고, Sundar Pichai는 클라우드 매출이 +63% YoY를 기록했지만 수요를 다 충족했다면 더 높았을 것이라고 했다.

왜 문제인가: Vic은 이를 정확히 짚었다 — "CapEx가 컴퓨트 확장에 쓰이면 더 많은 AI 사용자가 혜택을 받고, 더 나은 툴이 나오고, 매출이 생기고, 경제적 선순환이 완성된다. 그런데 다 메모리 업체 주머니로 들어간다면? 선순환에서 돈을 빼내는 것이다."

"It's a memory tax. There's no ROI on that additional CapEx — except for a few companies."
— Austin Lines & Vic Shaker

$SNDK SanDiskBullish

소프트웨어 수준 마진, 5개 멀티이어 계약 — NAND는 이제 더 이상 범용 상품이 아니다

Austin Lines · Vic Shaker · SanDisk Q1 2025 어닝콜 분석 ·

💡 핵심 통찰

SanDisk(구 Western Digital NAND 사업부, 2025년 2월 재상장)의 이번 실적은 단순 호실적이 아니다. NAND 비즈니스를 5년짜리 멀티이어 계약 기반 구독형 모델로 전환하겠다는 선언이다. 매출총이익률이 한 분기 만에 51%에서 78%로 뛰었고, 다음 분기 가이던스는 80% 이상이다. Nvidia도 75% 수준이다.

Q1 매출

~$60억 QoQ +97% / YoY +251%

매출총이익률

78.4% (직전분기 51.1%)

RPO (수주잔고)

$420억 (신규 3개 계약분)

멀티이어 파트너십

5개 체결 최장 5년, FY27 비트의 1/3 커버

어떻게 이런 숫자가 가능한가: Vic이 핵심을 짚었다 — "출하 비트 수가 크게 늘어난 게 아니다. 팹에서 분기 내에 급격히 생산을 늘릴 수는 없다. 이건 전부 가격 인상이다." 매출 추정치는 $48억 수준이었는데 $60억이 찍혔다.

CEO David Goeckler의 선언: "우리는 고객에게는 확정적 공급을, SanDisk에는 확정적 재무를 보장하는 구조로 멀티이어 파트너십을 설계했다. 고객의 약정은 firm한 재정적 보증으로 뒷받침된다." 이미 FY27 비트의 1/3이 재정적 보증이 붙은 장기 계약으로 커버됐고, 목표는 50% 이상이다.

NAND가 AI 인프라의 핵심 컴포넌트인 이유: Goeckler는 "AI 모델이 수십억에서 수조 개의 파라미터로 스케일업되고, 단순 추론에서 딥 리즈닝·에이전틱 시스템으로 진화하면서 NAND는 인프라의 핵심이 됐다. KV 캐시 최적화, RAG 워크로드 등은 실시간 응답성과 사용자 경험 품질 확보를 위해 대용량 고성능·저지연 플래시를 필요로 한다"고 했다.

역사 메모: Micron CEO Sanjay Mehrotra가 SanDisk의 공동창업자라는 사실. 원래 사명은 SunDisk였는데 Sun Microsystems가 상표 이슈를 제기해 창업 7년 후 SanDisk로 바꿨다. Kioxia와 일본 합작 팹 보유.

쉽게 풀어보기 — NBM, RPO, QLC

NBM (New Business Model): SanDisk가 쓰는 용어. 단순 스팟 판매 대신 다년간 공급 약정+선불 보증을 묶은 계약 구조. 고객은 공급 안정을, SanDisk는 예측 가능한 매출을 확보.
RPO (Remaining Performance Obligations): 아직 이행하지 않은 계약상 남은 의무 금액. 쉽게 말해 이미 계약된 미래 매출 잔고.
QLC NAND: 셀 하나에 4비트를 저장하는 NAND. 현재 SanDisk 최대 용량 SSD는 256TB. TLC(3비트)보다 용량 대비 비용이 낮지만 컨트롤러 설계 복잡도가 높아짐.

DeepSeek V4 · NAND 수요 구조구조적 호재

DeepSeek V4가 증명한 것: 에이전틱 AI의 미래는 SSD 위에 있다

Vic Shaker · DeepSeek V4 아키텍처 분석 ·

💡 핵심 통찰

DeepSeek V4는 단순한 모델 업그레이드가 아니다. KV 캐시를 HBM/DRAM이 아닌 SSD에 저장하도록 최적화된 아키텍처를 채택했다. 에이전틱 AI에서 수백 개의 에이전트가 긴 컨텍스트를 유지해야 할 때, 그 KV 캐시 전체를 HBM에 올리는 것은 불가능하다. SSD는 단가가 DRAM 대비 수십 배 저렴하고 용량은 사실상 무한에 가깝다. 문제는 대역폭 — 그래서 DeepSeek 팀은 "Dual Path: Breaking the Storage Bandwidth Bottleneck in LLM Inference" 논문도 내놓았다.

에이전틱 AI 캐시 히트율

95~99% (DeepSeek V4 기준)

DeepSeek V4 Pro API 단가

센트 미만/백만 토큰 (Opus 대비 현저히 낮음)

토큰 경제학의 구조: API 추론 비용은 크게 입력 토큰, 출력 토큰, 그리고 캐시 히트/미스로 나뉜다. 출력 토큰이 입력 대비 약 4~5배 비싼 이유는 '리즈닝' 과정이 추가되기 때문이다. 여기서 KV 캐시를 최대한 재사용(캐시 히트)하면 추론 비용이 급격히 낮아진다. 시스템 프롬프트를 앞쪽에 고정하고 하단에 append하는 "캐시 어웨어 인퍼런싱"이 표준 관행이 되고 있다.

왜 HBM/DRAM이 아닌 SSD인가: 수백 개의 에이전트가 동시에 돌아가는 멀티턴 에이전틱 AI에서 각 에이전트의 긴 컨텍스트를 모두 HBM에 올리는 건 물리적으로 불가능하다. DRAM 대비 SSD는 단위 비트당 비용이 수십 배 낮기 때문에, 대역폭 병목만 해결되면 사실상 유일한 경제적 선택지다.

Jensen이 먼저 예고했다: GTC에서 Jensen Huang은 CTX(Context Storage) — GPU 랙에 고대역폭 패브릭으로 연결된 SSD 배열 — 을 발표했다. KV 캐시 매트릭스를 SSD에 오프로드하는 구조다. DeepSeek V4는 이 방향이 맞다는 것을 실제 데이터로 증명해주고 있다.

"SSD-driven inference is basically the only way forward. DeepSeek has portrayed that clearly now."
— Vic Shaker

NAND TAM에 대한 함의: Vic은 "SSD TAM이 폭발하는 건 맞는데, SanDisk의 비트가 경쟁사보다 더 나은가?"라는 질문에 대해서는 유보적이었다. NAND 자체는 상당히 표준화된 기술이고 컨트롤러 차이가 있긴 하지만 결정적 차별점이 되기는 어렵다는 시각. 다만 지연시간 최적화를 위한 컨트롤러 알고리즘, 그리고 셀 설계(36-state 고신뢰성 셀 등 IEDM 연구 방향)가 향후 차별화 포인트가 될 수 있다고 봤다.

쉽게 풀어보기 — KV Cache, 캐시 히트, HBM vs SSD

KV Cache (Key-Value Cache): LLM이 이전 대화 맥락을 재처리하지 않도록 저장해두는 중간 연산 결과물. 컨텍스트가 길어질수록 크기가 폭증한다.
캐시 히트 / 캐시 미스: 히트 = KV 캐시를 재사용해 다시 계산 불필요. 미스 = 처음부터 다시 계산. 히트율이 높을수록 추론 비용이 내려간다.
HBM vs SSD: HBM은 GPU 바로 옆에 붙어 매우 빠르지만 단가가 비싸고 용량이 제한적. SSD는 훨씬 느리지만 단위 용량당 가격이 수십 배 저렴. 에이전틱 AI처럼 KV 캐시가 폭증하면 SSD 오프로드가 유일한 경제적 해법이 됨.

$005930 Samsung HBM4Bullish — 반등 시도

시장점유율 40% → 13%까지 추락했던 삼성, HBM4 세계 최초 출하로 반격 나섰다

Austin Lines · Vic Shaker · Samsung Electronics Q1 2025 어닝콜 ·

💡 핵심 통찰

HBM은 더 이상 "비트는 비트"가 아니다. JEDEC 공식 스펙(8 Gbps/pin)을 넘어 10~12 Gbps를 누가 먼저 달성하느냐가 Nvidia, AMD 등의 파트너 선택을 결정한다. 한번 검증(qualification) 받으면 교체가 매우 어려운 sticky 구조라 선점 효과가 크다. 삼성은 HBM3 사이클에서 Nvidia 퀄 실패로 큰 타격을 받았고, HBM4에서 반전을 노리고 있다.

메모리 매출 YoY

+101% Q1 2025 기준

HBM 매출 전망

3× YoY 2026년 전체

HBM4 비중 목표

50%+ 2025년 Q3까지

시장점유율 변화

~40% → ~13~20% HBM3 사이클 기간

EVP Jae-joon Kim의 발언: "우리는 2월에 세계 최초로 HBM4 상업 출하를 시작했다. HBM4의 차별화된 성능이 수요 집중으로 이어졌으며, 생산 준비 용량은 완전히 예약·완판 상태다. 우수한 성능이 실질적인 프리미엄 가격으로 전환되고 있다."

공급 부족의 심화: "수요 충족률이 사상 최저치에 이르렀다. 공급 부족을 우려한 고객들이 2027년 물량을 이미 당겨서 요청하고 있다." — 비트는 여전히 부족하고 가격 상방 압력은 지속 중.

HBM4에서의 경쟁 구도: SK Hynix, Samsung, Micron 세 곳 중 SK Hynix는 HBM3E에서 독점에 가까운 점유율을 확보했다. HBM4로 넘어가는 전환점은 삼성에게 재진입의 기회다. Micron은 베이스 다이에 메모리 노드를 쓰는 반면 Samsung·SK Hynix는 로직 2nm 노드를 활용 — 대역폭 성능 차이로 이어질 수 있다.

하이퍼스케일러 CapEx 세부혼조

AWS: "메모리 부족이 오히려 클라우드 이전을 가속한다"

Austin Lines · $MSFT $META $GOOGL $AMZN Q1 어닝콜 정리 ·

💡 핵심 통찰

Andy Jassy(Amazon CEO)의 발언이 가장 반직관적이었다 — 메모리 부족이 AWS 클라우드 성장을 오히려 끌어올리고 있다. 메모리 공급사들이 최대 고객(하이퍼스케일러)에게 우선 공급하면서, 온프레미스 인프라를 운영하는 기업들이 메모리를 구하지 못해 클라우드로 강제 이주하고 있다는 것이다.

Microsoft ($MSFT): CFO Amy Hood — 2026년 CapEx $1,900억 중 $250억이 컴포넌트 가격 인상 커버. Google Cloud는 YoY +63% 성장했지만 수요를 다 못 맞춰 실제론 더 높을 수 있었다.

AWS Trainium: $20억 런레이트, 성장률 트리플 디짓. Trainium 2는 거의 완판, Trainium 3는 거의 완전 예약. Jassy는 "자체 XPU 덕분에 매년 수백억 달러의 CapEx를 절감하고 있으며 이는 영업이익률 수백 bps 우위로 전환된다"고 했다. Austin의 냉소적 코멘트 — "그래서 그 절감분으로 메모리 값을 낼 수 있겠구나."

Google TPU 머천트 판매: 처음으로 TPU를 외부 판매하겠다고 공개 선언, 멀티 기가와트 스케일로. 다만 10-K에 CoWoS 및 HBM 할당이 리스크 요인으로 명시됐다. Vic의 코멘트: "CoWoS 말고 그냥 EMIB 쓰면 되잖아요."

Meta: Broadcom과 함께 1GW 규모 MAIA(NTIA) XPU 프로젝트 진행 중. AMD, Nvidia 멀티벤더 구조 공식화. 최근 Matt Steiner와의 대담에서 로드맵 일부 공개(4칩 2년 계획).

"One of the interesting things we see with the change in price and supply on memory is it is actually a further impetus pushing companies who have been on-prem into the cloud."
— Andy Jassy, Amazon CEO (어닝콜 인용)