"갱신하지 않는다는 건
곧 축소한다는 것"

절대적으로 사실인 것들이 있고, 상대적으로 사실인 것들이 있습니다. Microsoft와 비교하느냐, 더 작은 네오클라우드와 비교하느냐에 따라 다르죠.

하이퍼스케일러 대비 핵심은 기술 스택입니다. 우리는 클라우드 구축 방식을 첫 원리(first-principles)부터 다시 설계했습니다. AI 클라우드는 다른 종류의 워크로드 ― 병렬 연산 ― 에 기반하기 때문입니다. 이는 CPU가 역사적으로 의존해온 직렬 연산과 꽤 다릅니다.

직렬 연산은 이중화(redundancy)를 전제로 설계됩니다. 일이 작아서, 이 CPU에서 돌리다 고장나면 저 CPU에서 돌리면 그만이죠. 반면 병렬 연산은 일이 매우 큽니다. 수많은 GPU가 하나의 문제를 함께 풉니다. 문제는, 여기 GPU가 고장나면 저기 것으로 대체할 수 없다는 겁니다. 전체 시스템이 멈춥니다.

그래서 우리는 몇 가지를 최적화하도록 스택을 설계했습니다. 첫째, 생태계 전체의 효율. 하이퍼스케일러 스택에 있는 가상화 계층을 사실상 들어냈습니다. 그 위에 독자적인 오케스트레이션 계층을 얹었는데, 이것이 GPU를 배치하고, 건강 상태를 파악하고, 언제 망가질지 예측하고, 워크로드를 안전하게 지키는 데 독보적으로 뛰어납니다.

이 둘을 합치면 더 고성능인 스택이 됩니다. 그 결과 이 생태계의 거의 모든 정교한 사용자들의 '선택받는 파트너'가 됩니다. OpenAI, Anthropic, Meta, Google, Microsoft, NVIDIA를 모두 서비스하고, 그 아래 계층(Cursor·Cognition·Perplexity·Cohere·Mistral)까지 두루 서비스하는 유일한 독립 클라우드라고 봅니다. 경제적으로는, GPU 시간당 더 높은 가격을 받으면서도 고객에겐 더 낮은 TCO를 제공할 수 있습니다. 더 효율적이고 고성능인 제품이니까요.

매우 제한적이라 봅니다. 이유가 한둘이 아닙니다. 첫째, 하이퍼스케일러가 이 인프라의 첫 대규모 소비자였던 건 맞지만, 그게 정상 상태(steady state)는 아닙니다. 이미 OpenAI와 Anthropic이 Microsoft에 맞먹는 규모의 컴퓨팅을 소비하려 하고, 직접 소비하려는 엔터프라이즈 고객의 롱테일도 형성되고 있습니다. 상장 당시 Microsoft가 우리 매출 백로그의 85%였는데, 지금은 1위 고객도, 2위 고객도 아닙니다. 자연스러운 다변화가 이 리스크를 분산시켰습니다.

갱신(renewal) 문제는 2023년부터 계속 받아온 질문입니다. 자문역으로서도, 투자자로서도, 이제 임직원으로서도요. 클라우드의 역사를 연구하며 두 가지를 관찰했고, 아직 아무도 반박하지 못했습니다.

둘째 관찰은 CPU 클라우드를 유추 사례로 삼는 겁니다. Azure의 CPU 데이터센터 포트폴리오는 상당 부분이 자가 소유, 일부가 임대입니다. AI 클라우드의 정상 상태도 비슷하게 '대부분 소유 + 일부 임대'일 거라 봅니다.

핵심 차이는 비용 구조입니다. CPU 클라우드를 지을 땐 비용의 약 2/3가 건물 껍데기, 1/3이 그 안에 들어가는 것이었습니다. AI 클라우드는 정반대입니다. CapEx의 2/3가 안에 들어가는 장비, 약 1/3이 껍데기죠.

그래서 하이퍼스케일러의 임대(leased) 부분에 대해선, 건물 CapEx뿐 아니라 2배나 더 비싼 장비 CapEx까지 피하고 싶어 할 거라 보는 게 합리적입니다. 이걸 다 종합하면, 솔직히 그건 우리가 밤잠 설칠 문제가 아닙니다.

동인이 뭐냐 ― 채택(adoption)과 생산성 확장입니다. 올해 지금 그게 엄청나게 일어나고 있습니다. Anthropic·OpenAI의 성장을 보면 엔터프라이즈가 채택하고 AI가 확산되고 있고, 우리 파이프라인에도 이 기술을 (간접이 아니라) 직접 소비하려는 엔터프라이즈의 롱테일로 나타납니다.

우리 비즈니스는 플라이휠의 혜택을 받습니다. 세계 거의 모든 정교한 사용자들의 '신뢰받는 엔지니어링 파트너'라는 사실에서 시작되는 플라이휠이죠. 그들이 어디로 가려는지 알기에, 그쪽을 향해 미리 짓습니다.

일화를 들죠. 2023~2024년 초, 우리는 InfiniBand로 짓고 있었습니다. 많은 이들이 "왜 그 비싼 InfiniBand에 돈을 쓰냐, 하이퍼스케일러는 더 싸고 똑같이 좋다는 Ethernet으로 짓는데"라고 했죠. 그런데 2024년 9월 무슨 일이 있었나요? o1이 나왔습니다. 갑자기 추론을 단일 GPU가 아니라 여러 노드에 걸쳐 돌리게 됐고, 이를 효율적으로 굴리려면 더 촘촘한 네트워크가 필요해졌습니다. InfiniBand에 일찍 베팅한 게 거의 예지력처럼 보이게 됐죠.

2024년에 액침냉각 데이터센터 용량을 확보하고, 2025년 Blackwell 출시에 앞서 구축한 것도 같은 맥락입니다. 스토리지·CPU 등 포트폴리오 전반에 올해와 내년의 순풍을 타기 위한 베팅을 깔아뒀습니다.

고객이 뭘 필요로 할지 알기에 그렇게 합니다. 그들이 우리에게 더 많은 걸 원하기에 직접 말해줍니다. 그들이 하는 말은 "둔화되지 않는다"입니다. Jensen, Musk, Altman, Amodei, Nadella, Pichai 모두가 그렇게 말해왔는데, 2023~2024년엔 그걸 믿는 게 거의 역발상처럼 보였죠. 그냥 믿으세요. 그들은 진실을 말하고 있습니다. 어제 Google이 400억 달러를 조달한 것보다 더 좋은 증거가 있나요? Google이 올해 수백억 달러 규모로 주식을 발행해 자금을 모을 거라 누가 예상했겠습니까. 곧 둔화할 생각이 없기 때문입니다.

핵심 모델과 그 진화를 말씀드리죠. 출발점은 ― 고객과 더 장기 계약을 맺는 겁니다. 고객은 쓰든 안 쓰든 GPU 시간당 고정 가격을 내기로 계약상 묶입니다. 향후 4~6년짜리 '테이크오어페이' 계약이죠.

왜 거기서 시작했나? 클라우드 사업은 기술과 인프라가 반반입니다. 기술 확장은 자본 없이도 가능할 때가 많지만, 인프라 확장은 절대 자본 집약 없이 안 됩니다. 하이퍼스케일 사업을 만들려면(이미 활성 전력 1GW 이상으로 사실상 도달했습니다만), 게임의 이름은 '가능한 한 싼 가격에 최대한 많은 자본에 접근하는 것'입니다.

이 장기 계약을 자산금융 시장에 가져가면, 우리 자체 신용보다 고객 신용에 훨씬 가까운 비용으로 돈을 빌릴 수 있었습니다. 그게 우리가 이토록 빠르게 규모를 키운 방법입니다. 투자등급 대차대조표 없이 출발해 우리만큼 빠르게 이 규모를 만든 회사는 세계에 우리뿐입니다. 근처에 온 곳도 없죠.

그러니까 최초 계약으로부터 5년 뒤엔, 당신이 마음대로 수익화할 수 있는 인프라를 소유하게 됩니다. 거기서 나오는 모든 달러는 순전히 현금흐름 증분이죠. 그렇게 중요한 대규모 인프라를 통제한다는 건 엄청나게 가치 있습니다.

이게 오랫동안 토대였고 앞으로도 그럴 겁니다. 다만 우리가 커지면서, 자본 접근성이 오르고 비용이 내려가면서, 포트폴리오에 더 단기 계약도 섞을 수 있게 됐습니다. 단기 계약을 좋아하는 이유는 더 높은 마진, 더 높은 ASP에 노출되기 때문입니다. 약정 기간이 짧을수록 고객은 더 높은 가격을 낼 의향이 생기죠. 게다가 수요 증가를 활용할 수 있습니다 ― 2~3년 뒤 계약이 지금보다 더 비쌀 수 있으니까요. Hopper에서 그게 우리 경험이었습니다. 오늘 Hopper를 3년 전보다 비싸게 팔고 있습니다.

비투자등급 기업은 주주를 80~90% 희석하지 않고는 온디맨드 하이퍼스케일러를 지을 수 없습니다. 하지만 커질수록 다이얼을 조금씩 돌릴 수 있고, 기존 인프라를 재가격(repricing)하고 스팟으로 더 많이 파는 데 유리해집니다. 그래서 Q1에 스팟 제품을 발표했습니다. 탈출 속도(escape velocity)에 도달하고 있는 거죠.

기본 계약 기간의 마진은 20%대 중반(mid-20s) 공헌이익입니다. 새 인프라에 대해 그 5년짜리 딜을 일관되게 그렇게 언더라이팅합니다. 더 짧은 딜이면 공헌이익이 더 높고요.

이후 기회는? 온디맨드·스팟 시장에서 파는 겁니다. 5년 약정에 서명할 땐 온디맨드보다 낮은 가격에 서명합니다. 5년 내내 100% 가동을 통째로 파는 거니까요. 하지만 그 시점엔 이미 다 갚았으니 금융이 필요 없고, 그래서 가격이 더 높을 수 있는 스팟에서 팔 수 있습니다.

새 고객보다는 새 워크로드를 찾을 가능성이 높습니다. 우리가 관찰한 건 Ampere와 Hopper 가격이 지난 몇 달(어쩌면 더 오래)간 꽤 일관되게 올랐다는 겁니다. Ampere는 우리 기준 Q4에 ASP가 올랐고, Q1에 또 올랐습니다. 이제 거의 6년 된 ― 2020년 말 SKU인 ― Ampere로 '학습'하는 사람이 많을 가능성은 낮습니다. 하지만 '추론' 관점에선 아주 잘 돌아가는 워크로드가 있고, 이걸 사들여 꽤 매력적인 수익을 냅니다. 그래서 더 비싸게 낼 의향이 생기는 거죠.

OpenAI의 라우터 모델을 떠올려보세요. 6~9개월 전만 해도 o1·o3·GPT-4를 직접 골라야 했죠. 저는 "뭐든 가장 성능 좋은 모델"을 원하는 사람이었는데, 그건 무책임한 컴퓨팅 사용이었습니다. 그런데 그들이 라우터를 도입해, 쿼리에 따라 Ampere에서 돌 GPT-3에 매핑하거나 B200/GB200에서 돌 o4에 매핑합니다. 고객들이 "이 일은 여기, 저 일은 저기"로 더 정교해지는 걸 더 많이 보게 될 겁니다. 고객은 같아도, 다른 워크로드를 갖다 붙이는 거죠.

(농담 받아치며: Sam Altman이 그랬죠 ― 기계가 세상을 지배할 때를 대비해 친절하게 대해두라고요.)

시장에서 관찰 가능한 모든 데이터는, 오히려 우리가 보수적이라고 시사합니다. Volta·Tesla 같은 오래된 SKU가 여전히 클라우드에서 돌고 있습니다. 2010년대 말 SKU인데 오늘도 수익화되죠. 6년 넘은 TPU도 비슷할 거고요. 우리 Ampere도 6년에 다가가는데 잘 돌아갑니다.

Hopper 가격이 3년 전보다 오늘 높은 걸 보면서, 이 논쟁은 최근 몇 달 새 사그라든 느낌입니다. "아, 3년 내용연수가 아니었구나" 하고요. Hopper는 '22년 말 SKU라 2년 뒤에 보면 알겠지만, 우리가 보는 모든 게 수익화 가능하다고 가리킵니다. 만에 하나 하드웨어 성능 리스크가 정말 있다면, 세계 어떤 클라우드보다 CoreWeave에서 Hopper가 도는 게 훨씬 낫습니다. 우리 오케스트레이션 계층(Mission Control)이 하는 일이 바로 GPU를 건강하게 유지하는 것이고, 건강할수록 더 오래 돌아가니까요.

CoreWeave가 존재하는 이유는 세 가지를 매우 잘하기 때문입니다. ① 탁월한 기술(가장 고성능인 클라우드) ② 인프라를 확장해 클라우드를 전달하는 역량 ③ 이를 가능케 하는 자본시장 항해 능력. 이 셋 없이는 제로에서 하이퍼스케일까지 못 갑니다.

일정 준수 능력엔 매우 자신 있습니다. 우리 트랙레코드는 시장에서 심하게 저평가됐다고 봅니다. 현재 약 50개 데이터센터가 가동 중인데, 압도적 다수가 제때, 일부는 일찍, 소수만 늦었습니다.

Q3 콜에서 ― 산업 전반의 일인데 ― 개발 파트너 한 곳이 유난히 고전해 Q4에 영향을 준다고 말했죠. Q4에 압도적 영향은 아니었는데 시장 반응은 압도적이었습니다. 일이 지연될 수 있다는 걸 시장이 이해 못 한 듯합니다.

앞으로 더 많은 네오클라우드가 실제 규모의 인프라를 확장하려 할 겁니다. 그것도 (우리처럼) 여러 번 해내야 하죠. 세상은 더 많은 지연과 고전을 목격하고, 상황이 나빠졌다고 생각할 겁니다. 하지만 저는 그게 사실이 아니라고 봅니다. 그저 (다른 사업으로) 가릴 수 없는 더 많은 이들이 시도하는 걸 보게 될 뿐입니다.

운영 도전을 헤쳐나가는 게 이 일의 일부냐? 당연합니다. 우리가 잘 대비된 이유는 ① 여러 번 해봤고 트랙레코드가 훌륭하며 ② 진짜 초능력 ― 전력 껍데기를 약 6주 만에 AI 슈퍼컴퓨터로 바꾸는 능력입니다. 대부분은 3~6개월 걸립니다. 그러니 "3개월 걸릴 줄 알았는데 6주면 된다" ― 2주 늦어도 우리는 여전히 일찍 끝낼 수 있는 거죠.

고객에게 전가합니다. CapEx의 압도적 다수는 서버에 쓰이는데, 파트너에게 구매주문(PO)을 넣는 동시에 고객에게서 주문서(order form) 서명을 받습니다. "방금 가격이 올랐으니 더 받아야 합니다" 하고 잠그는 거죠.

(Tal: 계약 서명 전에? 아니면 서명 시점에?) ― 서명 시점에, 동시에 일어난다고 보시면 됩니다. 스토리지처럼 약간 노출되는 더 작은 부분은 가격 메커니즘이 원가가산(cost-plus)에 가깝습니다. 원가에 에스컬레이터가 있으면 가격에도 에스컬레이터가 붙죠.

비전으로 삼는 것과 오직 거기만 집중하는 건 별개입니다. 사실 엔터프라이즈만 집중하는 네오클라우드가 실재하는지 모르겠습니다. 정작 누가 매출을 내주는지 보면, 연구소(research labs)도 아니고 하이퍼스케일러거든요.

그러니까 ― 장기 계약을 받아 인프라를 갚고, 온전히 자기 것이 된 그 인프라를 다른 사람에게 판다는 거네요. ... 그건 우리가 2023년에 시장에 가져와 정의한 바로 그 비즈니스 모델처럼 들립니다. 많은 사람들이 따라 한 것 같네요.

그 근육을 키우는 데 꽤 투자했습니다. 작년에 AWS의 시니어 GTM 리더였던 Jon Jones를 첫 CRO로 영입해 영업 조직을 만들고 있습니다. 극도로 집중하는 부분이죠. 결국 용량 배분(allocation) 대화이기도 합니다. 하이퍼스케일러는 선불(prepayment)을 주는 경우가 많아 금융에 유리하고요.

우리는 연구소 노출을 원합니다 ― OpenAI·Anthropic·Meta의 신뢰받는 파트너가 되고 싶습니다. 동시에 엔터프라이즈와도요. Q4엔 Mercado Libre 같은 고객을 발표했고, Q1엔 1,000억 달러 매출 백로그의 10%가 금융 서비스 기업이라고 밝혔습니다. 단일 버티컬에서 약 100억 달러죠. 산업재·헬스케어 성공은 별개고요. 계속 새 로고를 추가하고 용량을 엔터프라이즈에 배분할 겁니다.

에이전틱 시대엔 CPU 대 GPU의 부착비율(attach rate)이 올라갑니다. 스토리지의 필요성, 그리고 데이터를 GPU 가까이 두려는 필요성도 커지죠. Q3에 우리 스토리지 사업이 ARR 1억 달러를 돌파했고 잡초처럼 자란다고 말하기 시작했고, 1월엔 CPU 사업도 얘기하기 시작했습니다. 오늘 세상은 우리가 왜 1월에 그걸 꺼냈는지 더 잘 이해할 겁니다.

성능 관점에서, 우리가 하는 일은 복잡한 시스템을 더 복잡하게 만드는 것입니다 ― 더 크게, 더 많은 방향성 데이터 흐름과 통신을 더하는 거죠. 클러스터가 커질수록, 워크로드가 복잡해질수록 우리 소프트웨어 스택이 더 차별화됩니다. 학습에서 사실이었고 추론에서도 입증됐습니다.

있습니다. 하지만 '언제'의 문제죠. 이번 10년 안에? 아니라고 봅니다. 2023년 창업자들(Brian·Brannin·Mike·Peter)을 처음 만났을 때부터 우리는 이걸 "10년 내내 가는 문제"라 봤습니다. 반면 많은 하이퍼스케일러는 "6개월짜리 문제"라 했죠 ― 네오클라우드를 단기 현상이라 폄하하면서 정작 나가서 800억 달러어치 네오클라우드 계약을 더 맺는 식으로요.

우리 관점은 늘 같았습니다. 수급이 균형에 도달한 세상에서 클라우드 참여자로 살아남고 번성할 '권리'가 무엇이냐는 것. 단순한 명제입니다 ― ① 하이퍼스케일(잘 가는 중) ② 경쟁력 있는 자본비용(잘 가는 중 — 2024년 초 이후 부채 비용 약 700bp 인하) ③ 흥미로운 기술(이미 도달). 이 셋을 다 하면, 더 균형 잡힌 세상에서도 자본비용 관점에서 경쟁할 권리와 능력을 갖게 됩니다.

모두 감사합니다.