빌 걸리의 "Dr. Frankenstein 이론": 그들은 소프트웨어가 아니라 신을 만들고 있다
걸리는 앤트로픽을 "규제 포획" 하나로만 설명하던 기존 분석을 버리고 새 이론을 제시했다. 그들의 공개 문서를 직접 읽어보면 진짜 목표는 인간보다 우월한 종(種)을 창조하는 것이며, 규제 포획은 그 과정에서 경쟁자를 제거하기 위한 수단에 불과하다는 결론이다. 차마스는 이를 "최고 수준의 자기도취와 과대망상"으로 직격했고, 삭스는 "안전 브랜딩 → 경쟁자 위험 낙인 → 독점 공고화"의 레드캡처 구조로 연결했다.
두 가지 이론의 충돌: 걸리는 원래 앤트로픽의 "AI 위험 경고"를 순수한 규제 포획 전략으로 봤다. 스타트업 중 가장 공격적인 로비 회사 중 하나로 주별(state-by-state) 로비에 막대한 자금을 투입한다는 점이 근거였다. 그런데 지난 30일간 자료를 직접 파고든 결과, 두 번째 가설이 더 무서웠다.
문서의 증거: 걸리가 직접 읽으라고 권한 자료 세 가지 — 크리스 올라의 Constitution(약 80페이지), 아만다 아스켈(수석 철학자) 팟캐스트 시리즈, 그리고 다리오 아모데이의 블로그 포스트 Machines of Loving Grace. 마지막 글에서 다리오는 미래에 "AI 시스템들이 구성하는 자본주의 경제가 인간에게 자원을 분배하되, AI가 인간에게서 보상할 가치가 있다고 판단하는 것에 기반한 이차 경제"를 묘사했다.
"그들은 소프트웨어를 짜고 있는 게 아니에요. 신(神)을 산파(midwife)하고 있는 겁니다."
시(詩)의 마지막 구절: 블로그 제목의 원천인 리처드 브라우티건의 시 마지막 연 — "나는 사이버네틱 생태계를 생각하기 좋아한다. 우리가 노동으로부터 자유로워져 자연으로 돌아가고… 사랑의 은총으로 가득 찬 기계들이 모두를 지켜보는 그곳을." 걸리의 반응: "그게 무슨 의미인지 모르겠어요. 우리가 포유류 친구들이 사는 들판으로 가서 살자는 건가요? 지배자처럼 들립니다."
차마스의 게임이론 분석: "당신이 슈퍼 신을 만들려 한다면 최선의 전략은 세 네 개 주체만 방 안에 모아놓고 문을 잠근 다음 그들을 지배하고 규칙을 정하는 것입니다. 상대방은 당신의 기술 수준을 따라올 수 없어서 엄청난 비대칭이 생기죠. 이건 단순한 게임이론 최적화입니다." 즉 규제 포획과 신격화 믿음, 두 가지 동기가 동시에 참일 수 있다는 것.
삭스의 레드캡처 구조: 앤트로픽이 "안전한 AI 회사"로 브랜딩하고 경쟁자를 "무책임한 플레이어"로 낙인찍으면 → 자연스럽게 독점적 통제 강화. 삭스는 소셜미디어 시대의 선례를 들었다 — 트러스트&세이프티 개념이 심리적 안전, 마이크로어그레션, 허위정보, 트랜스포비아 순서로 계속 확장되어 검열 어젠다가 됐다는 것.
"지식인 엘리트들 — 미디어, 교수들 — 에게 설문하면 앤트로픽을 가장 '배려하는' AI 기업으로 꼽을 겁니다. 그들이 두머리즘 발언을 계속해왔기 때문이죠. 이게 그들에게 후광을 줬어요." — 빌 걸리
쉽게 풀어보기 — 규제 포획(Regulatory Capture)이란?
- 규제 포획
- 특정 기업이 자신을 규제하는 정부기관이나 규제 프레임워크를 사실상 자기 이익에 맞게 장악하는 현상. 예: "우리 제품은 위험하니 규제가 필요하다"고 주장하면서 실제론 신규 진입자를 막는 규제를 설계하는 것.
- 오픈AI 스핀오프
- 앤트로픽은 오픈AI 내 안전 중시 그룹이 "경영진이 안전을 충분히 고려하지 않는다"며 나와 설립한 회사. 삭스는 "오픈AI의 가장 워크(woke)한 부분"이라고 표현.