"토큰 맥싱은 기업 포르노다" — 소비는 많고 가치는 없다
카프는 기업들이 LLM을 실제 비즈니스 문제와 무관하게 무한 소비하는 현상을 "토큰 맥싱"이라 정의하고, 이를 포르노 중독에 직접 비유했다. 중독성은 있지만 실질 가치는 없고, 비용만 쌓인다는 것. 팔란티어는 이 문제를 해결하는 내부 제품을 개발 중이라고 밝혔다.
무슨 얘기였나: 팔란티어 내부에서는 이 현상을 대응하는 제품을 "탈자위(de-masturbatory)" 툴이라 부른다고 카프가 직접 언급. 기업들이 AI에 예산을 쏟아붓지만, 직원들은 날씨 검색, 이메일 태그 분류 같은 무의미한 작업에만 사용하고 있다는 것이다.
LLM이 진짜 잘하는 것 vs. 못하는 것: 카프에 따르면 LLM은 "프리 코드(free code)" — 즉 대시보드 생성, 원샷 분석, 확률적 연산 등에서는 마법 같은 생산성을 낸다. 하지만 기업 고유의 지식 저장소(knowledge store), 특수 오일가스 채굴 방법론, 군 물류 공급망 최적화 같은 정밀하고 지속적인 프로세스는 LLM이 강화(enhance)할 수 있을 뿐 대체하지 못한다.
코드의 세 층위: 카프는 코드를 세 가지로 분류했다. ① 인프라 프리미티브 — 팔란티어가 수백만 기술 시간을 들여 구축한 하드코딩 기반. ② FDE(Forward Deployed Engineer)가 관리하는 코드 — 팔란티어 제품 코드베이스 위에서 작성, 무작위 개발이 아님. ③ 프리 코드 — LLM이 마법처럼 빠르게 생성하되 정밀도가 낮아도 되는 일회성 작업. 문제는 기업들이 세 번째 유형의 중독성 때문에 첫 번째와 두 번째의 필요성을 간과한다는 것.
"LLM은 우리 사업을 스테로이드처럼 키워줬다. LLM 없었으면 아무도 우리 온톨로지 얘기 안 했을 거다. 하지만 LLM이 엔터프라이즈 문제를 직접 해결하는 건 아니다. 그게 트릭이다."
보안과 온프레미스 문제: 취약점 식별 속도는 LLM으로 10~100배 빨라졌다. 하지만 "패치는 누가 하나? 온프레미스에서 어떻게 패치하나? 특수 농업 기법이든 군 정보든, 기밀 데이터를 퍼블릭 클라우드에 올릴 수는 없다"는 구조적 한계를 지적했다.
쉽게 풀어보기 — 토큰 맥싱과 온톨로지
- 토큰 맥싱(Token Maxing)
- AI에게 보내는 텍스트(토큰)를 무한정 소비하며 AI를 많이 쓰는 것처럼 보이지만, 실제 비즈니스 성과와 무관한 행태. 비용만 나가고 효과는 없다.
- 온톨로지(Ontology)
- 기업의 데이터·프로세스·관계를 구조화한 지식 지도. 팔란티어가 고객사 내부에 수년에 걸쳐 구축하는 것으로, 단순 LLM으로는 복제 불가.
- FDE(Forward Deployed Engineer)
- 고객 현장에 직접 파견돼 팔란티어 제품을 맞춤 구축하는 엔지니어. 팔란티어 특유의 운영 모델.