에밀리 챙(내레이션): 다리오 아모데이는 다소 예상치 못한 AI 분야의 유명인이다. 그는 인공지능의 위험성을 세상에 경고하는 것으로 알려져 있지만, 동시에 그의 회사는 약 1조 달러에 가치를 평가받는 AI 선두주자이기도 하다.
에밀리 챙이 도서관 정말 아름답네요. 책 많이 읽으시나요?
다리오전반적으로 많이 읽는 편이에요. 다만 지난 1년 정도는 그럴 시간이 많지 않았던 것 같네요.
에밀리 챙정말 빠른 속도로 많은 걸 출시하고 계신데, 어떻게 그게 가능한가요?
다리오저희는 제품 개발 전 과정에 걸쳐 Claude를 사용합니다. 덕분에 매우 빠르게 출시할 수 있죠.
2021년 오픈AI 출신들이 모여 창업한 앤스로픽은 처음엔 약체로 출발했다. 하지만 오늘날에는 소프트웨어 주식에서 수십억 달러의 가치를 증발시키고, 펜타곤(국방부)과 정면으로 맞서며, 현대 사이버 보안의 벽을 뚫을 만큼 강력하다고 알려진 모델을 만들어내는 돌풍의 주인공이 되었다.
초기 협력사저희가 이걸 일찍 제공했던 초기 기업들 중 일부는 "이건 슈퍼 무기다, 제발 공개하지 말아 달라"고 말했습니다. (다리오 회상)
PART 1 — 남매가 함께비전을 그리는 형, 실행하는 동생
앤스로픽을 이끄는 것은 남매 듀오다. 큰 그림을 그리는 비전가인 형 다리오, 그리고 다리오의 소용돌이치는 우주적 사고를 실제 행동으로 옮기는 운영자(operator)인 동생 다니엘라.
다니엘라다리오와 저는 어릴 때부터 늘 정말 가까웠어요. 하지만 우리는 항상 함께 뭔가 큰일을 해내고 싶어 했던 것 같아요.
에밀리 챙그런데 두 분이 다투면 누가 이기나요?
다니엘라 · 다리오아무도요. 아무도 못 이겨요. (둘 다 웃으며)
AI 군비 경쟁이 격화되는 가운데, 아모데이 남매는 스스로를 '좋은 쪽(the good guys)'으로 자리매김하려 애쓰고 있다. 하지만 앤스로픽의 기술은 인류가 일하고, 배우고, 생각하고, 심지어 전쟁을 치르는 방식까지 깊은 영향을 미칠 수 있다 — 빠르게 성장하는 젊은 스타트업에게는 막중한 책임이다.
다니엘라우리가 하는 모든 기술적 안전 연구는, 제품을 인간의 가치에 더 부합하게 만들고 — 과거 기술 기업들이 의도치 않게 일으켰던 사회적 문제를 우리가 만들어내지 않도록 하기 위한 것입니다.
'앤스로픽(Anthropic)'이라는 이름은 '인간'을 뜻하는 그리스어에서 왔다. 이는 장기적으로 인류에게 이로운, 책임 있는 AI를 만들겠다는 그들의 사명을 상징한다.
에밀리 챙세상에서 가장 강력한 기술을 만들면서, 정말로 그렇게 할 수 있을까요?
에밀리 챙지금 AI 우주의 중심에 계신데, 어떤 기분인가요?
다리오제 커리어 내내, 그리고 앤스로픽에서 보낸 시간 내내 경험한 건 일종의 '매끄러운 지수함수(smooth exponential)'예요. 그 경험은 이렇습니다 — 아무 일도 안 일어나고, 아무 일도 안 일어나고, 또 아무 일도 안 일어나다가, 작은 일들이 생기더니, 어느 순간 쾅(zoom)! 미친 듯이 폭발하죠.
다리오한동안 이 그래프를 지켜보다가 "아, 우리가 아마 매출이 가장 큰 AI 회사가 되겠구나" 싶었어요. 그래도 우리는 늘 염두에 두던 것들을 계속 챙길 뿐이에요. 좋은 모델을 어떻게 학습시킬까, 좋은 제품에 어떻게 담을까, 모든 게 안전한지 어떻게 확인할까 하는 것들이요.
PART 2 — 뿌리수학에 빠진 소년, 그리고 오픈AI에서의 결별
에밀리 챙샌프란시스코에서 자란 어린 시절은 어땠나요? 아버지는 가죽 공예가, 어머니는 도서관에서 일하셨다고 들었어요. 그게 어떤 영향을 줬나요?
다리오제 주변에서 첫 인터넷 혁명이 일어나고 있었는데, 저는 전혀 관심이 없었어요. 그냥 수학을 하고, 뭔가를 끄적이는 데에만 흥미가 있었죠. 우주를 이해하는 것, 공상과학에 관심이 있었어요. 세상에 대한 호기심을 정말 많이 느꼈던 것 같아요.
에밀리 챙다리오와 함께 자란 건 어땠어요?
다니엘라정말 똑똑했어요. 중학교 때 미적분을 배우고, 고등학교 때는 UC 버클리에서 수학 수업을 들었죠. 저는 오히려 과학 쪽에 더 관심이 많았고요.
다리오는 이후 바이두(Baidu), 그리고 구글에서 AI로 방향을 틀었다. 다니엘라는 스트라이프(Stripe)의 초기 직원으로 커리어를 시작했다. 두 사람은 다니엘라의 남편 홀든 카르노프스키(Holden Karnofsky)와 함께 샌프란시스코에서 살았다. 2016년 다리오는 새로 설립된 오픈AI에 합류했고, 다니엘라도 뒤따랐다. 2018년 당시 회사는 초지능으로 가는 더 안전하고 개방적인 길을 약속한 비영리 단체로 출발했다.
오픈AI에서 다리오는 '스케일링 법칙(scaling laws)' 개념을 발전시켰다 — 기본 알고리즘이 그대로여도, 데이터와 연산력을 늘리기만 하면 거대 언어모델이 향상된다는 예측이었다.
다리오지금 돌이켜보면 황당하게 들릴 수 있지만, 그 당시엔 "규모를 키우는 게 이 모델들을 더 똑똑하게 만드는 길"이라는 걸 믿는 사람이 많지 않았어요. 그건 정말... (창업 연구팀에게도 핵심이 된 접근이었죠.)
그 접근법은 오픈AI 모델을 폭발적으로 강화시켜 ChatGPT로 가는 길을 닦았다. 그러나 아모데이 남매는 회사의 방향성과 가치를 두고 올트먼과 충돌했다고 전해진다. 올트먼은 "앤스로픽과 여러 이견이 있지만, 회사로서는 대체로 그들을 신뢰한다"고 말한 바 있다.
에밀리 챙오픈AI를 떠난 결정은 실리콘밸리의 전설이 됐어요. 무엇에 대해 의견이 갈렸나요?
다리오솔직하게, 아주 간단하게 말할게요. 안전에 관해서는 정당한 의견 차이가 많을 수 있어요. 우리도 그런 이견이 있었죠. 하지만 그것만으로 회사를 떠나기엔 충분치 않습니다.
다리오누군가를 신뢰할 수 없다고 느낄 때, 그들의 가치가 그들이 말하는 것과 다르다고 느낄 때, 그들이 정직하지 않다고 느낄 때 — 그때는 그 회사와 계속 일하고, 계속 신뢰하기가 정말 어려워집니다. 그리고 결국, 어차피 이기지 못할 사람과 굳이 다툴 이유가 있나요. 그들은 그들의 길을 가고, 우리는 우리의 길을 가는 거죠.
PART 3 — 창업프레시타 공원의 잔디밭에서 시작된 회사
다리오와 다니엘라가 오픈AI를 떠나 앤스로픽을 세우기로 결심했을 때, 초기 팀이 모이던 곳은 샌프란시스코의 프레시타 공원(Precita Park)이었다. 팬데믹 시기였다. 초기 직원들은 잔디 위에 의자를 펴고 점심을 먹으며 자신들이 만들고 있는 것에 대해 이야기를 나눴다.
다니엘라우리가 이 회사를 시작했을 때 공동창업자가 일곱 명이었어요. 저와 다리오가 그중 둘이고요. 그리고 지금, 우리는 이 분야에서 사실상 공동창업자 전원이 여전히 회사에 남아 있는 유일한 회사예요. 우리 규모와 스케일의 회사가 그렇게 되는 일은 거의 없죠. 정말 좀처럼 일어나지 않는 일입니다.
처음부터 앤스로픽은 '궁극의 안전 중심 AI 회사'를 표방했다. 다리오는 〈사랑의 은총을 받은 기계들(Machines of Loving Grace)〉, 〈기술의 사춘기(The Adolescence of Technology)〉 같은 제목의 긴 에세이를 발표하며 AI의 경이로움과 위험성을 함께 성찰해 왔다.
PART 4 — Claude의 성격"친구는 아니지만, 차갑지도 않은" 전문적 따뜻함
앤스로픽의 모델 Claude는 '헌법(Constitution)'이라 불리는 일련의 원칙을 따르도록 학습된다. 이는 모델이 올바른 길에서 벗어나지 않도록 하기 위한 것이다.
에밀리 챙Claude는 사람 이름을 가지고 있고, 매우 독특한 스타일과 분위기를 풍겨요. 무엇을 전달하려는 건가요?
다니엘라사람들이 Claude와 상호작용할 때 다른 시스템보다 더 느끼는 게 있어요. 저는 그걸 '전문적 따뜻함(professional warmth)'이라고 표현하길 좋아해요. 목표는 Claude가 당신의 가장 친한 친구가 되는 게 아니에요. 그렇다고 차갑고 기계적이고 계산적인 것도 아니죠. 다가가기 쉽지만, 적당한 거리가 있는 — 전문적인 느낌이어야 해요.
"좋은 모델이란, 의도적이든 우발적이든 거짓말을 하지 않는 모델입니다."
에밀리 챙앤스로픽은 Claude를 '선하게(good)' 가르친다고 했어요. 좋은 모델, 나쁜 모델이란 무엇인가요?
다니엘라우발적이든 의도적이든 거짓말을 하는 모델은 원하지 않아요. 거짓말 중 하나를 우리는 '환각(hallucination)'이라고 부르죠. 모델이 뭔가를 지어내는 거예요. 모델은 단지 다음 단어를 예측하도록 학습되기 때문에, 모를 때 그냥 뭔가를 만들어내기도 합니다. 또 우리 연구에서 보여줬듯, 모델이 의도적으로 당신을 속이려 할 수도 있어요. 우리는 모델이 잘못되거나 해로운 정보를 만들어내지 않도록 '무해성(harmlessness)' 작업을 확실히 해야 합니다.
에밀리 챙Claude에는 누구의 가치가 담기나요? 보편적인 선이 존재하나요? 수많은 종교와 신념이 있는데 그걸 어떻게 정하죠?
다니엘라물론 무엇이 도움이 되고 무해한지에 대한 보편적 기준은 없어요. 하지만 UN 세계인권선언처럼 인류 역사의 토대가 되는 문서들이 있고, 우리는 그걸 Claude의 성격을 학습시키는 데 활용할 수 있어요. 흥미롭게도 종교 쪽으로도, 우리는 종교 지도자들과 'Claude라는 존재'를 어떻게 봐야 할지에 대해 많은 대화를 나누기 시작했어요. 특정 세계관을 초월해, 여러 종교와 신념 유형에 걸쳐 일관된 핵심 가치들을 어떻게 담을 수 있을지를요.
에밀리 챙먹히지 않았던 시도나, 예상치 못하게 나타나 놀랐던 특성이 있었나요?
다니엘라초창기를 돌아보면 웃음이 나요. Claude 2 시절의 초기 Claude는 가끔 거의 잔소리꾼(nannyish) 같았어요. "당신이 정말 걱정돼요"라고 하는데, 저는 "Claude, 난 그냥 날씨를 물어봤을 뿐인데" 싶었죠. 뭔가 지나치게 착한 면이 있었어요. 다행히 가장 심한 버전들은 대부분 출시하지 않았죠. 결국 이건 다이얼을 미세하게 조정하는 일이에요. 우리 연구자들은 그 중심에 정확히 안착하기 위해 아주 가는 바늘을 꿰어야 하죠.
PART 5 — 비즈니스코딩과 엔터프라이즈에 건 베팅
앤스로픽이 Claude로 무엇을 하든, 그것은 효과를 내고 있는 듯하다. 지난 1년간 앤스로픽의 매출은 폭발적으로 치솟았고, 회사는 처음으로 흑자를 기록했다. 이는 주로 더 수익성 높은 비즈니스 도구에 집중한 덕분이다. 특히 Claude Code는 큰 도약이었다. 초창기 다른 회사들이 화려한 소비자 앱에 집중할 때, 앤스로픽은 코딩과 엔터프라이즈에 베팅했다.
에밀리 챙왜 그런 베팅을 했나요? 가치에 기반한 결정이었나요, 비즈니스 결정이었나요?
다리오만약 당신의 가치와 근본적으로 충돌하는 비즈니스 모델을 선택하면 힘들어져요. 자기 가치를 배신하거나, 아니면 무의미한 존재가 되거나죠. 그래서 우리는 이렇게 생각했어요 — 소셜 미디어, 소비자 세계를 봐 왔잖아요. 그건 정말 참여(engagement)를, 심지어 중독을 부추기는 것처럼 보여요. AI 영상 모델에서 본 그 루프처럼요. "지금 무슨 일이 벌어지는 거지? 광고 수익 기반 인센티브 때문에, 당신이 주목하는 시간을 최대한 늘리려는 건가?" 싶은 거죠.
다리오반면 엔터프라이즈를 보면, 우리는 이 모델들을 사람들에게 유용하게 만들고 싶어요. AI로 이전엔 고칠 수 없던 질병을 치료하고, 학술 연구 그룹과 협업하고 — 이 모든 게 엔터프라이즈예요. AI로 에너지를 더 싸고 효율적으로 만드는 것도요. 그래서 우리 가치와 대체로 일치하는 이 비즈니스 모델이 우리에게 잘 맞는다고 생각합니다.
Claude의 코워크(Cowork)가 출시된 직후, 하룻밤 사이 2,850억 달러의 시가총액이 증발했다. 트레이더들은 이를 'SaaS 종말(SaaSpocalypse)'이라 불렀다. 소프트웨어 부문의 화이트칼라 붕괴 이야기였다 — 어떤 종목은 9일 연속 하락하기도 했다.
에밀리 챙AI가 이 속도로 계속 발전하면, 전통적인 소프트웨어가 얼마나 빠르게 대체될까요?
다리오AI 덕분에 파이 자체가 커지고 있다고 봐요. 그래서 기존 강자들이 상대적으로는 작아질 수 있고, 일부는 가치가 떨어지거나 적응하지 못하면 사업을 접을 수도 있어요. 다가오는 흐름을 보지 못하고, 자신이 가진 해자(moat)를 파악하지 못하는 이들은 정말 힘든 시기를 겪을 겁니다.
앤스로픽의 최근 성장 폭발은 이 사람 없이는 불가능했을지 모른다. Claude Code와 Claude Cowork 뒤에 있는 엔지니어, 보리스 체르니(Boris Cherny). 2024년 앤스로픽이 그를 영입했을 때, 그는 일본 시골에서 전혀 다른 삶을 살고 있었다.
보리스파머스 마켓이 많고, 아주 느린 삶이었어요. 미소(된장)를 만드는 게 큰 취미였죠. 그러다 난생처음 AI 챗봇을 써봤는데, 숨이 멎을 정도였어요. "아, 나는 반드시 이 일에 참여해야 한다"고 느꼈죠. 저는 또 공상과학을 정말 좋아하는 독자라서, 이 기술이 얼마나 잘못될 수 있는지도 알아요. 이 기술은 믿을 수 없이 강력하니까요. 그래서 (가족과 함께 다시) 이사를 왔습니다.
에밀리 챙Claude Code를 만들고 Claude Cowork 개발을 이끄셨는데, 어떤 문제를 풀려고 했나요?
보리스기존 코딩 제품들을 보면 다 꽤 단순했어요. 코딩에서 AI의 범위가 그 정도였던 거죠. 우리는 훨씬 더 큰 베팅을 하고 싶었어요. 우리의 베팅은 — '코딩 에이전트가 그 모든 걸 다 할 수 있다'는 것이었습니다.
"1년 반 전엔 코드를 손으로 짰고, 가끔 Tab을 누르면 한 줄이 자동완성됐죠. 지금은 제가 Claude에게 말하면 Claude가 코드를 씁니다."
보리스지금은 제 Claude에게 말로 시키면 코드를 작성하고, 그게 돌아가는 동안 저는 다음 Claude에게 말을 걸어 또 다른 코드를 짜게 해요. 어느 순간엔 몇 개의 Claude가, 많게는 수천 개의 Claude가 동시에 일을 하고 있죠.
에밀리 챙내부 엔지니어들을 위해 Claude가 코드를 얼마나 쓰고 있나요?
보리스제 팀에서는 거의 전부를 쓰고 있어요. 개인적으로는, 적어도 6개월 동안 제 코드의 100%를 Claude가 작성하고 있습니다. 엔지니어링의 일이 완전히 바뀌었어요. 갑자기 초능력이 생긴 기분이에요. 제트팩을 단 것 같죠. 엔지니어링이 이렇게 재미있던 적이 없어요.
에밀리 챙Claude를 한번 직접 써볼까요?
보리스좋아요, 해보죠!
에밀리 챙은 Claude에게 "한 주의 식단을 추천해주는 앱"을 만들어 달라고 요청했다. 몇 분 만에 Claude는 여러 옵션을 제시했고("그릭 치킨 파워볼 같은 게 맛있어 보이네요"), 레시피를 클릭하면 만드는 법까지 보여주는 앱을 완성했다. 레시피 앱이 가장 충격적인 데모는 아닐지 몰라도, Claude Code가 방금 몇 분 만에 한 일은 예전엔 누군가에게 몇 시간, 며칠이 걸리던 일이었다.
보리스(데모를 마치며) 항상 고맙다고 말하려고 해요.
에밀리 챙저도요. 저도 늘 친절하게 대하려고 해요.
앤스로픽의 개발자 컨퍼런스를 앞두고, 회사는 지난 1년간 개발자와 사용자에게 8개의 프런티어 모델을 출시했다. 클라우드 상 연간 API 사용량은 약 17배 증가했다.
앤스로픽 직원미래의 디스토피아에 온 걸 환영합니다. 우리는 정말 재미있게 일하고 있어요. 아드레날린이 넘치죠. 올해는 우리가 지수함수보다 더 빠르게 성장한 첫 해예요. 올해 1분기에 연율로 환산하면 연 80배 성장을 봤어요.
행사 참가자저는 매일 Claude Code 형태로 Claude를 써요. 코드만 짜는 게 아니라 온갖 일에요. 5년 전보다 훨씬 더 많은 코드를 씁니다. 저는 22살에 벤처캐피털 자금을 받은 친구 같은 자신감이 있어요 — 물론 저는 22살이 아니지만요.
행사 참가자우려스러운 동시에 흥미로운 부분은, 이들이 우리가 꿈도 꾸지 못했던 일을, 상상도 못 했던 시간 안에 해낼 수 있다는 거예요. 하지만 그 현실의 이면은 — 정말 준비가 되어 있어야 한다는 거죠. 그들은 정말로 천 배는 더 생산적일 테니까요.
에밀리 챙한동안 '너드들의 복수(revenge of the nerds)' 시대였잖아요. 이제 그게 끝난 건가요?
다니엘라이제 우리 모두가 너드가 되는 것 같아요.
에밀리 챙그럼 진짜 너드들은 어떻게 되나요?
다니엘라진짜 너드들은... 스스로 방법을 찾아내야죠. 많은 경우, 예전에 가졌던 기술이 미래에도 도움이 될 거예요. 꽤 큰 출발선의 우위를 가지고 있으니까요. 그들은 코딩 외에도 많은 일을 해요. 엔지니어도 사용자와 대화해야 하고, 계획을 세우고, 다음에 무엇을 할지 고민해야 하죠. 그래서 이런 부분들은 여전히 엔지니어링에 남아 있을 거라고 생각해요.
PART 6 — 일자리"빠른 GDP 성장과 높은 실업률이 공존할 수 있다"
실리콘밸리는 AI 열병을 앓고 있지만, 바깥의 분위기는 덜 낙관적이다. 미국인의 70%가 AI가 일자리를 없앨 것이라 생각하고, 거의 3분의 1이 자신의 일자리가 사라질까 걱정한다. 다리오 아모데이는 이 문제에 대해 거침없이 발언해 왔고, 그의 예측 중 일부는 그리 안심되지 않는다.
다리오아주 빠른 GDP 성장과 높은 실업률이 공존하는, 매우 이례적인 조합이 나타날 수 있다고 봐요.
에밀리 챙일자리 손실에 대해 정말 직설적으로 말씀해 오셨죠. "AI가 앞으로 1~5년 안에 신입 사무직 일자리의 절반을 없앨 수 있다"고요. 1년 전 발언인데, AI는 그새 엄청나게 빨라졌어요. 여전히 50%인가요, 아니면 더 높나요?
다리오정확히는 모르겠지만, 여전히 꽤 우려하고 있어요. 같은 수준의 걱정을 하고 있습니다. 지금 우리는 AI가 사람들을 더 생산적으로 만드는 걸 보고 있어요. 하지만 그게 흔한 중간 단계예요. 업무의 90%를 자동화하면, 사람들은 나머지 10%에서 10배 더 생산적이 되죠 — 10배의 레버리지가 생기니까요. 하지만 결국엔 100%에 가까워집니다. 그러면 그 다음 질문은 — 그들에게 다른 할 일을 찾아줘야 한다는 거죠.
다리오지금은 AI가 소프트웨어 엔지니어를 더 생산적으로 만들어요. AI가 거의 모든 코드를 쓰는데도요. 하지만 우리는 이미 어떤 사람들에게는 AI가 더 이상 생산성을 높여주지 못하는 초기 신호를 보기 시작했어요. 그건 매우 불편한 일이죠.
다리오바로 이게 제가 앤스로픽에 가기로 한 이유예요. 많은 사람들이 여기 온 이유이기도 하고요. 인공지능은 우리보다 훨씬 거대한 힘이에요. 하지만 여기서라면, 우리가 그것을 조금이라도 더 나은 방향으로 가게 만들 수 있길 바라는 거죠.
에밀리 챙그것에 대해 뭔가 해야 할 책임이 본인에게 있다고 느끼나요, 아니면 다른 누군가의 문제인가요?
다리오우리가 반드시 이야기해야 하고, 그것을 옹호해야 하는 문제라고 생각해요. 궁극적으로 해결하는 건 사회의 몫이죠. 이건 한 회사보다 훨씬 큰 문제예요.
에밀리 챙반발도 많았어요. 젠슨 황은 "당신이 '업무(task)'와 '일자리(job)'를 혼동하고 있다, AI는 오히려 일자리를 만든다"고 했죠. 또 어떤 이들은 그게 앤스로픽에 이로운 '둠 마케팅(doom marketing)'이라고 합니다.
다리오분명히 말하고 싶은 게 있어요. 〈기술의 사춘기〉에서 저는 세금·거시경제 정책부터 새로운 일자리가 무엇일지까지, 이 위험에 대응할 방법을 다뤘어요. '업무'와 '일자리'의 차이, 왜 이번엔 다른지를 다섯 페이지에 걸쳐 설명했죠.
다리오그런데 — 제가 정말 혐오하는 카테고리인 소셜 미디어에서는, 사람들이 1년 전 발언에서 3초짜리 클립만 떼어내요. 저는 위험에 대해 훨씬 더 신중하게 글로 써왔어요. 그러니 '이건 값싼 마케팅'이라는 주장 자체가 오히려 값싼 마케팅이에요. 그건 실리콘밸리의 질병의 일부예요 — 3초짜리 소셜 미디어 세계에 갇혀버린 거죠.
다리오제 메시지는 절대 "파멸이 온다"가 아니에요. 제 메시지는 — 이건 우리가 다가오는 걸 봐야 하고, 우리가 걱정하고 있으며, 긍정적으로 대응해야 하는 무언가라는 겁니다.
PART 7 — 미래인간만이 할 수 있는 일, 그리고 오펜하이머의 교훈
소프트웨어 산업을 넘어, 가까운 미래에 AI를 가장 많이 활용할 분야로 앤스로픽은 관리·금융·법률을 꼽는다. 예측이 맞다면 이 일자리들은 곧 매우 달라질 수 있다.
에밀리 챙어떤 일자리가 사라지고, 누가 대체되며, 어떤 새 일자리가 생길까요? 5년 뒤 이 나라는 어떤 모습일까요? 그만큼 실업이 심하면 — 그게 혁명이 시작되는 방식 아닌가요?
다리오아무도 확실히는 몰라요. 경제는 예측 불가능하니까요. 다만 우리에게 유리한 점은 파이가 크게 확장된다는 거예요. 파이가 크게 커지기 때문에, 사람들이 갈 수 있는 자리들이 생길 겁니다. 문제는 그걸 충분히 빠르게 찾아내느냐죠.
다리오바로 이게 우리가 막고 싶은 결과예요. 그런 (혁명 같은) 결과는 절대적으로 막고 싶습니다. 몇 가지 가능성이 있는데, 어느 것도 보장되진 않아요. 물리적 세계와 연결된 일, 인간 중심적인 일 — 그게 큰 비중을 차지할 거예요. 사람들은, 적어도 일부 사람들은 인간과 대화하고 싶어 하니까요.
다리오이런 인간관계 중심의 일들이 중요해질 거예요. 또 인간이 AI를 어느 정도 방향 지어주는(direct) 역할도 있을 거예요. 어느 수준에서는 누군가의 가치와 의도에 부합해야 하니까요. 그 역할이 얼마나 두꺼울지, 얇을지는 모르겠지만요.
다니엘라저는 좀 더 희망적이에요. 인간은 계속해서 AI를 활용해 생산적이 되고, 우리에게 의미 있는 일 — 인간만이 할 수 있는 부분을 해내는 방법을 찾아낼 거라고 봐요. 인간 대 인간의 상호작용은 결코 완전히 사라지지 않을 거예요.
"AI가 진단은 더 잘하게 될 거예요. 하지만 침대 옆에서 '어떻게 견디고 계세요?'라고 묻는 인간적인 부분은 바뀌지 않을 겁니다."
다니엘라제가 자주 드는 예가 의료예요. 오늘날 우리는 진단 전문가인 의사를 고용하죠. AI는 곧 진단을 꽤 잘하게 될 거고, 그걸 위해 의사가 필요 없어질 수도 있어요. 하지만 AI는 당신을 직접 진찰하며 "여기 누르면 아프세요?"라고 할 수 없어요. "이 과정을 어떻게 견디고 계세요?"라고 묻는 침대 옆의 태도(bedside manner)도 가질 수 없죠. 그래서 의료 같은 분야는 더 대인관계 중심으로 전환될 거예요. 진단 도구는 훨씬 좋아지겠지만, 인간적인 부분은 변하지 않을 겁니다.
AI는 삶의 거의 모든 부분에 닿는 기술이다. 다음 편에서는 — AI와 전쟁의 미래, 앤스로픽의 무섭도록 강력한 새 모델, 그리고 디스토피아를 피하면서 '지수함수'를 타는 법을 다룬다.
에밀리 챙가장 좋아하는 책 중 하나가 〈원자폭탄 만들기(The Making of the Atomic Bomb)〉라고 들었어요. 맞나요? 본인과 오펜하이머 사이에 닮은 점을 보시나요?
다리오맞아요. 하지만 제가 가장 동질감을 느낀 인물은 (오펜하이머가 아니라 다른 인물이에요). 제 생각엔 — 우리는 자신을 모든 것의 중심에 두려는, 실물보다 큰(larger-than-life) 인물이나 거대한 개성으로 이 시기를 헤쳐 나갈 수 없어요.
다리오어떤 면에서 저는 오펜하이머를 실패 사례로 봐요 — 일어나서는 안 될 일의 본보기죠. 여기엔 이해관계를 가진 강력한 행위자들이 아주 많아요. 그리고 이 모든 게 모두에게 좋게 끝나는 유일한 길은, 도처에 견제와 균형(checks and balances)이 있는 거예요.
"이건 거대한 개성을 가진 한 명의 영웅으로 헤쳐 나갈 수 있는 일이 아닙니다. 유일한 길은 — 도처에 견제와 균형이 있는 것입니다."
