"세상이 우리에게 기대하는 한 가지를 하라" — Nadella의 핵심 역량 재발견
Nadella의 가장 중요한 발언은 "모든 회사는 자사만의 hill-climbing machine(강화학습 기반 지속 개선 루프)이 필요하다"는 것이다. 이는 단순한 API 호출이나 RAG 구현을 넘어, 기업 고유의 private eval → 강화학습 환경 → 모델 경쟁 입찰 구조를 뜻한다. Microsoft는 이 학습 루프를 운영하는 멀티테넌트 인프라가 되겠다는 것 — 프론티어 모델이 누가 이기든 Microsoft가 그 위의 "운영체제"가 된다는 포지셔닝이다. 과거 Intel-Windows 관계를 스스로 모델 레이어와의 관계에 비유한 것도 같은 맥락이다.
경쟁 포지션에 대한 솔직한 고백: Nadella는 "지금 행복하냐"는 질문에 곧바로 답하지 않고, "Microsoft가 이 새로운 세계에서 유일하게 할 수 있는 것이 무엇인가를 먼저 정의해야 한다"고 우회했다. 그러면서 과거 실수의 패턴 — Zune처럼 남을 부러워해서 만든 제품은 세상이 원하지 않는다 — 을 언급하며, "세상이 우리에게 기대하는 한 가지"에 집중하는 것이 교훈이라고 했다.
플랫폼 DNA의 재확인: Nadella는 Microsoft의 정체성을 일관되게 "플랫폼 제공자"로 규정한다. 클라이언트-서버 시대, 클라우드 시대 모두 제로섬 게임이 아니었고, AI 시대도 마찬가지라는 논리. 핵심은 "프론티어 모델이 하나가 아니라 많은 이해관계자가 각자의 프론티어 인텔리전스로 작동하는 생태계" — 즉 프론티어 에코시스템 플랫폼의 조성자가 Microsoft의 역할이라는 것.
Hill-climbing 개념 풀이: Nadella 스스로 ELI5를 시도했다. AI란 목표를 정하고 그 목표에 맞는 출력을 지속적으로 예측·생성하며 계속 학습하는 과정이고, 이것이 "언덕 오르기(hill-climbing)" 메타포다. 기업의 해자(moat)는 암묵지(tacit knowledge)인데, AI 시대에 그 암묵지를 강화하려면 자사 데이터로 학습하는 자체 hill-climbing machine이 필요하다.
쉽게 풀어보기 — Hill-climbing · Private Eval · RKLD
- Hill-climbing machine
- 기업이 자사 데이터·목표를 기반으로 AI 모델을 지속적으로 개선하는 강화학습 루프 전체를 가리키는 Nadella의 표현. 특정 모델 하나가 아니라 "학습 시스템" 자체가 자산.
- Private Eval (사내 벤치마크)
- 외부 공개 벤치마크가 아닌, 기업이 자체적으로 구성한 품질 평가 기준. Nadella는 이것이 AI 시대 기업의 가장 중요한 IP가 될 수 있다고 강조. 오늘의 실패 케이스가 내일의 벤치마크를 갱신하는 동적 구조.
- RKLD (Reverse Knowledge Distillation)
- 일반적인 증류(큰 모델 → 작은 모델 전달)의 반대 방향으로 지식을 활용하는 기법. Microsoft는 OpenAI IP를 활용해 MAI 모델 성능을 끌어올리는 데 이를 적용 중이라고 밝힘.
- RAG (Retrieval-Augmented Generation)
- 모델에 외부 문서를 검색해서 붙여주는 방식. Nadella는 이를 "슬랩온(slap-on)" 구현이라며, 모델 자체가 기업 데이터로 강화학습하는 것과 질적으로 다르다고 구분.