보여주기식 AI 사용은 위험... ‘진짜 AX’ 만드는 5가지 방법

인공지능(AI)

보여주기식 AI 사용은 위험... ‘진짜 AX’ 만드는 5가지 방법

2026.06.11. 오후 5:00
by 김도현
 
댓글
 
SNS 보내기
 
글씨 크기 조정

토큰맥싱 vs 진짜 AX (출처 : GPT image2)

"젠슨 황, 보여주기식 AI 사용 '토큰맥싱' 부추긴다" 논쟁

우버, 1년치 AI 예산 4개월 만에 모두 소진

마이크로소프트, 클로드 비용 감당하지 못해 라이선스 취소하기도

MIT "사람보다 싸게 대체할 수 있는 일은 노동시장의 11.7%뿐" 분석

AX의 성패는 "그 토큰이 어떤 성과로 돌아왔는가"에 달려

AI는 싸지 않았다. 2026년 기업들의 청구서가 그 결론을 보여준다. 지난 2년간 전 세계 기업은 인공지능(AI)이 비용을 줄여줄 것으로 보고, 사람을 줄인 자리에 AI를 넣었다.

​

2026년 들어 그 전제가 흔들린다.

​

AI는 진짜 일을 줄이고 있는 것인가, 혹은 일을 줄이는 '척' 하는 것인가.

​

가장 앞서 AI를 도입한 기업들이 같은 말을 하기 시작했다. AI가 사람보다 비쌀 수 있다는 것이다. 우버가 그랬고, 마이크로소프트가 그랬고, AI 반도체를 파는 엔비디아도 같은 얘기를 했다. 이것이 '토큰 경제'의 역설이다.

AI의 비용은 인건비 절감보다 오히려 높을 수도 있다. (출처 : GPT image)

​

"토큰을 안 쓰면 걱정된다"… 젠슨 황의 한마디

​

논쟁의 출발점은 엔비디아 최고경영자(CEO) 젠슨 황의 발언이다.

​

젠슨 황은 2026년 봄 한 팟캐스트(인터넷 음성 방송)에서 AI 사용량을 직원 역량의 신호로 봤다. 연봉 50만달러(약 7억원)를 받는 엔지니어가 한 해에 25만달러(약 3억 5,000만원)어치의 토큰도 쓰지 않으면 문제라고 했다.

 AI를 쓰지 않는 것은 칩 설계자가 컴퓨터 대신 종이와 연필을 쓰는 것과 같다고 했다. 그는 기본급의 절반에 해당하는 토큰을 따로 지급하는 방안까지 거론했다.

​

토큰은 AI가 처리하는 데이터 사용량 단위다. 많이 쓸수록 비용이 늘어난다.

​

젠슨 황의 말은 일리가 있다. AI를 전혀 쓰지 않는 조직은 경쟁에서 뒤처질 수 있다. 문제는 이 발언이 사용량 자체를 목표로 만들었다는 점이다.

​

여기서 토큰맥싱(Tokenmaxxing)​이라는 말이 나왔다. 토큰을 많이 쓴 기록을 남기려는 행동을 가리킨다. AI로 무엇을 했느냐보다 토큰을 얼마나 썼느냐가 앞선다. 기업으로서는 측정하기 쉬운 숫자가 사용량이기 때문이다. 실제로 메타(Meta)는 직원들이 만든 사내 토큰 사용량 순위표를 운영했고, 우버도 팀별 사용량 순위를 매겼다.

​

그러나 토큰은 입력이지 성과가 아니다. 세일즈포스(Salesforce)는 이를 "허영 지표(vanity metric·실속 없이 숫자만 큰 지표)"라고 부르며 반대했다. 많이 쓴 것과 잘 쓴 것은 다르다는 것이다. 사용량을 목표로 삼으면 비용은 성과와 무관하게 늘어난다. 2026년 들어 그 비용이 실제 청구서로 돌아왔다.

​

토큰은 쓴 만큼 과금된다

​

토큰 비용의 원리는 단순하다. 쓴 만큼 그대로 청구된다.

​

토큰은 AI가 글을 읽고 답을 만들 때 처리하는 최소 단위다. 단어 하나가 토큰 한두 개에 해당한다. AI 코딩 도구나 에이전트는 이 토큰을 기준으로 과금한다. AI가 문서를 읽고, 코드를 쓰고, 고치고, 여러 도구를 호출할수록 토큰 사용량이 늘고 비용도 늘어난다.

​

예전 소프트웨어는 달랐다. 1년에 얼마, 1인당 얼마로 값이 정해져 있었다. 매달 금액이 같아 예산을 짜기 쉬웠다.

​

토큰은 쓴 만큼 낸다. AI를 많이 돌릴수록 비용이 그대로 올라간다. 직원 수천 명이 동시에, 점점 더 많이 쓰면 비용은 빠르게 커질 수 있다.

​

핀테크 기업 램프(Ramp)의 결제 데이터가 추세를 보여준다. 램프 고객사의 월 AI 토큰 비용은 2025년 1월 이후 1년여 만에 13배로 늘었다. 가장 많이 쓰는 기업은 4개월 중 한 달꼴로 비용이 50% 이상 급증했다.

​

현장 사례는 더 구체적이다. 프롬프트(AI에 주는 지시문) 양식 하나만 바꿔도 하룻밤 사이 비용이 세 배가 된다. 금요일에 실험하던 신입 엔지니어가 월요일 전에 분기 예산을 소진할 수도 있다. 반복 작업을 도는 에이전트 하나가 5만달러(약 7,000만원)를 쓰기도 한다.

​

고정된 월 비용을 예측하던 방식이 더 이상 통하지 않는 것이다.

​

실제 클라우드 제로(Cloudzero)가 밝힌 바에 따르면 24년 대비 25년에 월 10만 달러 이상 예산을 배정한 기업이 무려 두 배 뛰었다.

24년 대비 25년 AI 예산 증감 (출처 : 클라우드제로)

​

세계가 한꺼번에 AI로 달려갔다

​

AI에 들어가는 돈은 이미 거대하다. 시장조사기관 가트너(Gartner)는 2027년 전 세계 AI 지출을 2조5700억달러(약 3600조원)로 전망했다. 1년 전보다 47% 늘었다. 이 중 절반 가까이가 데이터센터 서버와 반도체 같은 AI 인프라에 들어간다. 역사상 가장 빠른 자본 이동에 속한다.

​

일자리도 영향을 받는다. 세계경제포럼(WEF) 미래 일자리 보고서는 2025년부터 2030년까지 AI가 전 세계에서 약 9200만 개 일자리를 없애고 1억7000만 개를 새로 만들 것으로 전망했다. 55개국 1000개 기업 조사 결과다. 길게 보면 일자리는 순증한다.

​

문제는 당장이다. 2025년 한 해 미국 테크 업계에서 15만 개 넘는 일자리가 사라졌다. 이 중 약 5만5000개는 기업이 'AI 자동화'를 이유로 밝힌 감원이다(고용 분석업체 챌린저, 그레이 앤 크리스마스 집계). 2025년은 기업들이 AI를 감원 사유로 공개 언급하기 시작한 해다.

​

세계는 AI로 옮겨가며 사람을 줄였다. 그런데 가장 앞서 도입한 기업들에서 예상 밖의 문제가 나오고 있다.

24년 부터 꾸준히 늘어온 테크기업 감원 (출처 : 챌린저, 그레이 앤 크리스마스)

​

왜 AI가 더 비싸졌나

​

AI가 비싸진 이유는 두 가지다.

​

첫째, 종량제 과금이다. 쓴 만큼 낸다. 클로드 코드 맥스(MAX) 기준, 엔지니어 한 명의 AI 코딩 도구 비용은 보통 월 200달러(약 28만원) 안팎이다. 하지만 API(애플리케이션 프로그래밍 인트페이스) 종량제 방식으로 많이 쓰는 사람은 월 2000달러(약 280만원)까지 비용이 오른다.

​

둘째, 더 큰 변화가 있다. AI가 답만 써주던 단계는 지났다. 지금은 에이전틱 AI(agentic AI) 시대다. 사람이 시키면 스스로 파일을 읽고, 코드를 고치고, 테스트하고, 틀리면 다시 고치는 일을 반복한다. 그만큼 토큰을 많이 쓴다. 스탠퍼드대 연구에 따르면 이런 작업은 단순 채팅보다 최대 1000배 많은 토큰을 사용한다.

​

단순 채팅은 질문 한 번에 답 한 번으로 끝난다. 에이전틱 AI는 한 작업을 처리하며 호출을 수십, 수백 번 반복한다. 일을 더 많이 하는 대신 토큰도 그만큼 더 쓴다.

​

생산성은 오른다. 하지만 생산성이 오르는 것과 비용이 줄어드는 것은 다른 문제다. 가장 앞서 도입한 기업들이 이 차이에서 비용 문제에 부딪혔다.

빠르게 올라가고 있는 앤트로픽의 기업구독비율 (출처 : Macromicro)

​

사례 1: 우버, 1년 예산이 4개월 만에 소진

​

우버(Uber)는 AI 도입의 모범생처럼 보였다.

​

우버는 엔지니어 약 5000명에게 AI 코딩 도구를 지급했다. 사내에 팀별 사용량 순위표를 만들어 사용을 독려했다. 2026년 들어 엔지니어의 95%가 매달 AI 도구를 썼고, 회사에 반영되는 코드의 약 70%를 AI가 작성하는 수준이 됐다. 앤트로픽(Anthropic)의 클로드 코드(Claude Code)가 주력 도구였다.

​

비용은 빠르게 늘었다. 우버는 2026년 한 해 배정한 AI 코딩 예산을 4개월 만에 모두 썼다. 회사 연구개발(R&D) 예산이 약 34억달러(약 5조원)인데도 그랬다. 한 외신은 이를 "4월에 이미 다 썼다(Blown by April)"고 표현했다.

​

더 큰 문제는 그다음이다. 우버는 그 돈을 쓰고도 '결과가 얼마나 좋아졌는가'에 명확히 답하지 못했다. 우버 사장 겸 최고운영책임자(COO) 앤드루 맥도날드의 말이다.

거리를 달리는 우버 차량. 우버는 사내 리더보드까지 만들며 AI 코딩 도구 도입에 가장 적극적이었다 (출처 : Wikimedia Commons)

토큰 소비량이 늘었다고 해서, 소비자에게 유용한 기능이 25% 더 많이 나왔다고 선을 긋기는 매우 어렵습니다. 그 연결고리는 아직 없습니다

앤드루 맥도날드, 우버 사장 겸 COO

​

사례 2: 마이크로소프트, 너무 잘 써서 끊었다

​

마이크로소프트(Microsoft)의 선택은 더 역설적이다.

​

마이크로소프트는 윈도우·마이크로소프트365·팀스(Teams) 등을 만드는 내부 개발자 수천 명의 클로드 코드 라이선스를 대부분 회수했다. 6월 30일까지 사내 사용을 중단하라고 공지했다. 대신 자사 도구인 깃허브 코파일럿(GitHub Copilot) CLI로 옮기게 했다.

​

이유는 성능이 아니다. 반대다. 개발자들이 클로드 코드를 너무 많이 써서 비용을 감당하기 어려워졌다.

​

과금 구조에 원인이 있다. 클로드 코드는 1인당 월 20달러(약 2만8000원) 기본료에 더해 쓴 토큰만큼 추가로 받는다. 많이 쓸수록 비싸진다. 반면 깃허브 코파일럿은 1인당 월 39달러(약 5만5000원) 정액제로 많이 써도 추가 요금이 없다.

​

마이크로소프트는 정액제를 택했다. 더 좋은 도구가 아니라 비용을 예측할 수 있는 도구를 고른 것이다.

마이크로소프트는 자사 엔지니어들의 클로드 코드 라이선스를 환수하였다 (출처 : GPT image)

​

사례 3: 스타벅스, 9개월 만에 접은 'AI 재고 관리'

​

AI의 한계는 사무실 밖 매장에서도 드러났다.

​

스타벅스(Starbucks)는 2026년 북미 1만1000개 매장에 도입한 AI 재고관리 시스템을 9개월 만에 철수했다. 이 시스템은 최고경영자(CEO) 브라이언 니콜의 '백 투 스타벅스(Back to Starbucks)' 정상화 전략의 핵심 중 하나였다.

​

기술은 그럴듯했다. 노매드고(NomadGo)라는 스타트업이 라이다(LiDAR·빛으로 거리를 재는 센서)와 태블릿 카메라로 시럽·우유 재고를 자동 집계하는 시스템을 만들었다. 출시 당시 '사람보다 8배 빠르고 99% 정확하다'고 밝혔다.

​

실제는 달랐다. 비슷한 우유 종류를 구분하지 못했고, 눈앞의 제품을 빠뜨렸다. 스타벅스가 홍보 영상에 올린 장면에서도 AI는 페퍼민트 시럽 병을 인식하지 못했다.

​

사람이 모든 결과를 다시 확인해야 하는 자동화는 일을 줄이지 못한다. 직원들은 AI가 센 숫자를 다시 세야 했다. 스타벅스는 '재고 집계 방식을 일관되게 만들기 위한 결정'이라고 설명했지만, 결과는 분명하다. 이 AI는 사람보다 싸지도, 정확하지도 않았다.

스타벅스 매장 내부. AI 재고관리 시스템은 9개월 만에 철수됐다 (출처 : Wikimedia Commons)

​

사례 4: 엔비디아, 파는 회사가 인정한 비용

​

가장 무게 있는 인정은 AI로 가장 큰돈을 버는 회사에서 나왔다.

​

엔비디아는 AI 인프라의 핵심인 반도체를 공급한다. 전 세계가 AI에 쓰는 2조5900억달러의 상당 부분이 엔비디아 매출로 간다. 그런 회사의 응용 딥러닝 담당 부사장 브라이언 카탄자로의 발언이다.

​

우리 팀의 경우, 컴퓨트 비용이 직원 비용을 훨씬 넘어섭니다

브라이언 카탄자로, 엔비디아 응용 딥러닝 부사장

브라이언 카탄자로 (출처 : 엔비디아)

'컴퓨트(compute)'는 AI를 돌리는 데 드는 연산 비용, 곧 토큰과 서버 비용이다. 카탄자로의 팀에서는 이 비용이 인건비를 넘어섰다.

​

이 발언이 중요한 이유가 있다. AI 인프라를 파는 회사라면 'AI는 곧 싸진다, 더 많이 사라'고 말하는 편이 유리하다. 그런데 그 회사 임원이 '지금은 AI가 사람보다 비싸다'고 인정했다. 공급자가 자기 제품의 비용 부담을 직접 밝힌 것이다.

​

사람을 다시 부르기 시작했다

​

AI 비용이 커지자 일부 기업은 특정 업무에 다시 사람을 쓰기 시작했다. 버튼 정렬, 오탈자 수정, 기본 코드 작성 같은 단순 반복 업무에서 '사람이 AI보다 싸다'는 계산이 나왔다.

​

숫자도 같은 결론을 가리킨다. MIT가 2025년 11월 발표한 '아이스버그 인덱스(Iceberg Index)' 연구가 대표적이다. 이 연구는 'AI가 할 수 있는 일'이 아니라 'AI가 사람과 비슷하거나 더 싼 값에 할 수 있는 일'만 추렸다. 결과는 11.7%였다.

​

미국 노동시장에서 AI가 비용 면에서 사람을 이기는 일은 약 11.7%. 임금으로 1조 2000억달러(약 1,680조원)어치다. 나머지 88%는 사람이 더 싸다.

​

현장은 더하다. MIT 컴퓨터과학·인공지능연구소(CSAIL)의 2024년 연구를 보면 시각 판단이 필요한 업무(품질 검사 등)에서 AI 자동화가 경제성 있는 경우는 약 23%였다. 스타벅스가 시스템을 접은 이유도 여기에 있다.

​

'AI가 할 수 있다'와 'AI로 하는 게 싸다'는 다른 말이다. 많은 기업이 앞의 사실만 보고 뒤의 계산을 건너뛰었다.

​

감원조차 기대만큼 돈이 되지 않았다는 분석도 있다. 2026년 5월 경제지 포춘(Fortune)은 가트너 연구를 인용해, AI 자동화를 이유로 사람을 줄인 기업 상당수가 기대한 투자 대비 성과(ROI)를 내지 못했다고 전했다. 줄인 인건비보다 새로 든 AI 비용과 재작업 비용이 더 컸기 때문이다.

컴퓨터 비전 기술에 노출도가 클 수록, AI의 경제적효과가 큰 경향을 보인다 (출처 : MIT CSAIL)

​

제번스의 역설: 싸질수록 더 쓴다

​

토큰 가격이 내려도 이 문제는 저절로 풀리지 않는다.

​

토큰 단가는 빠르게 내리고 있다. 가트너는 2030년까지 대형 AI 모델의 추론 비용이 2025년의 10분의 1로 떨어질 것으로 본다. 그런데도 기업의 AI 비용은 줄지 않고 오히려 늘 수 있다.

​

이미 1865년 영국 경제학자 윌리엄 스탠리 제번스가 같은 구조를 정리했다. 석탄을 더 효율적으로 쓰는 기술이 나오자 석탄 소비는 줄기는커녕 늘었다. 값이 싸지고 쓸모가 커지면 수요가 더 빠르게 늘기 때문이다. 이를 제번스 역설(Jevons Paradox)​이라 한다.

​

AI 토큰도 같은 경로다. 토큰 한 개 값은 싸지지만, 그 토큰으로 할 수 있는 일이 늘어 사용량이 더 빠르게 증가한다. 단가 하락보다 사용량 증가가 빠르면 총비용은 계속 오른다. 값이 싸졌다고 안심한 기업이 먼저 비용 압박을 받는다.

​

버블의 끝일까, 성장통일까

​

그렇다면 지금 상황은 'AI 거품 붕괴'인가.

​

단정하기 이르다. 막대한 투자, 빠른 기술 발전, 실제 효과를 본 사례가 함께 있다. AI를 안 쓰는 기업이 뒤처질 것이라는 전망도 유효하다. 우버가 돈을 쓴 데는 이유가 있었고, 마이크로소프트 개발자들이 클로드 코드를 선호한 데도 이유가 있었다.

​

분명한 것은 하나다. 'AI = 무조건 비용 절감'이라는 공식은 틀렸다. AI를 가장 앞서 도입한 기업들이 이를 직접 보여줬다. 지금 상황은 거품 붕괴보다, 과대평가를 걷어내고 비용을 다시 계산하는 '성장통'에 가깝다.

​

그렇다면 AX는 어떻게 해야 하나

​

AX(기업이 AI로 일하는 방식을 바꾸는 것)는 포기할 일이 아니라 관리할 일이다. 토큰 경제의 역설을 피하는 방법은 몇 가지로 정리된다.

​

첫째, 사용량이 아니라 성과를 측정한다. 토큰을 얼마나 썼는지(입력)가 아니라 무엇이 줄고 좋아졌는지(출력)를 본다. 토큰맥싱에서 벗어나는 출발점이다. 어떤 지표를 성과로 삼을지 역시 고민해야하는 부분이다.

​

둘째, 비용을 업무에 연결한다. 'AI 비용이 늘었다'는 보고로는 부족하다. '고객지원 AI가 월 얼마를 쓰고 응답 시간을 며칠 줄였다'처럼 비용과 성과를 함께 적어야 투자인지 낭비인지 가려진다.

​

셋째, AI가 싼 일과 사람이 싼 일을 구분한다. ​MIT가 제시한 11.7%가 그 경계다. 모든 일을 AI에 넘기지 말고 AI가 확실히 싼 일부터 맡긴다.

​

넷째, 종량제를 관리한다.​ 부서별 예산 상한과 경고 알림을 두고, 필요하면 정액제도 검토한다. 마이크로소프트가 택한 방식이다.

​

다섯째, 멈출 기준을 둔다. ​효과 없는 AI는 중단한다. 스타벅스가 9개월 만에 내린 결정이다. 도입보다 중단이 더 어렵다.

​

AX의 성패는 코덱스, 클로드 코드, 제미나이같은 모델의 성능에서 갈리기 보다는, 이러한사내 AX 거버넌스에 달려있다.

​

한국 기업이 지금 물어야 할 것

​

한국 기업에는 이 문제가 더 늦게, 더 복잡하게 올 수 있다.

​

한국 기업은 이미 그룹웨어, 전사적자원관리(ERP), 고객관계관리(CRM), 보안 솔루션을 겹겹이 쓰고 있다. 여기에 AI를 붙이면 편하지만, 연결 지점이 늘수록 토큰을 쓰는 접점도 늘어난다. '일단 도입하자'는 분위기에서는 우버의 전철을 밟기 쉽다. 쓰기는 쉽고 비용 추적은 어렵기 때문이다.

​

한국 CEO가 물어야 할 질문은 분명하다. '경쟁사가 쓰니 우리도 써야 하나'가 아니라 '이 업무를 AI에 맡기면 매달 얼마가 드는가', 그리고 '그 돈으로 무엇이 좋아졌는가'다. 숫자로 답하지 못하면 AI는 생산성 도구가 아니라 통제하기 어려운 비용이 된다.

​

👉 관련 기사: 에이전트 AI 게임의 룰 바꾼다... 쿠리안 CEO "A2A, 표준으로 만들 것"

​

결론: 다음 경쟁력은 비용을 따지는 능력

많이 쓰는게 아니라, 성과를 증명하는 기업이 앞선다 (출처 : GPT image)

AI 도입 초기의 승자는 빨리 쓴 기업이었다. 다음 승자는 다르다.

​

많이 쓰는 기업이 아니라 쓴 만큼의 성과를 입증하는 기업이 앞선다. 토큰을 얼마나 썼는지가 아니라 그 비용이 어떤 성과로 이어졌는지 아는 기업이 이긴다. 우버는 돈을 쓰고도 효과를 입증하지 못했고, 마이크로소프트는 비용을 계산했고, 스타벅스는 멈췄고, 엔비디아는 한계를 인정했다.

​

AI의 다음 병목은 모델 성능이 아니라 비용 관리다. ​AI를 가장 많이 쓰는 회사가 아니라, 그 비용이 어떤 성과로 이어졌는지 설명할 수 있는 회사가 앞선다.

​

AI를 도입하기 전에 '이 업무를 AI에 맡기면 실제로 얼마가 드는가'를 계산한 기업은 많지 않다. 그 계산이 다음 경쟁력을 가를 것이다.

​

해당 콘텐츠는 프리미엄 구독자 공개(유료) 콘텐츠로 무단 캡쳐 및 불법 공유시 법적 제재를 받을 수 있습니다.

김도현

혁신 기술과 글로벌 비즈니스 트렌드를 탐구합니다.

#더밀크
 
#글로벌AX혁명
 
#CEO
 
#토큰경제
 
#AI비용
 
#젠슨황
 
#토큰맥싱
 
#우버
 
#마이크로소프트
 
#클로드
 
#에이전틱AI
 
#스타벅스
 
#AI재고관리
 
#엔비디아
 
#비용관리
 
#AI
like
 
댓글
공유하기