Marc Andreessen

마크 안드레센 – AI가 세상을 구할 이유 (Why AI Will Save the World)

ByThe Context

원문: Marc Andreessen, Why AI Will Save the World (Jun 2023) 전문은 원문에서 확인하실 수 있습니다. 아래 글은 번역이 아니라, 마크 안드레센의 논증을 한국어로 재구성한 정리입니다.

글의 배경과 개요

마크 안드레센(Marc Andreessen)은 벤처캐피털 안드레센호로위츠(a16z)의 공동창업자이자 제너럴 파트너로, 2023년 6월 회사 홈페이지에 이 글을 올렸습니다. ChatGPT 공개 이후 반년이 지나 AI 규제 요구가 워싱턴과 언론을 뒤덮던 시점이었고, 글이 답하려는 질문은 단순합니다. 지금 쏟아지는 AI 공포 가운데 근거가 있는 것은 무엇이고 없는 것은 무엇인가입니다. 안드레센은 먼저 AI가 인간 지능을 증폭해 삶의 거의 모든 영역을 개선한다는 긍정론을 펼친 뒤, 현재의 공포를 역사가 반복해 온 도덕적 공황의 한 사례로 규정합니다. 이어 규제 운동의 참여자를 진심에서 움직이는 개혁가와 규제로 이익을 보는 사익 추구자로 갈라 본 다음, 세간에 떠도는 다섯 가지 AI 위험을 차례로 검토합니다. 결론은 다섯 중 넷은 실체가 없고, 진짜 위험은 AI 자체가 아니라 서방이 중국과의 AI 경쟁에서 지는 데 있다는 것입니다.

핵심 내용 정리

  • AI는 살아 있는 존재가 아니라 사람이 소유하고 통제하는 수학과 코드이므로, 스스로 의도를 품고 인류를 해치는 일은 일어나지 않는다고 봅니다.
  • 인간 지능이 거의 모든 삶의 결과를 개선한다는 것이 사회과학의 가장 확고한 결론이며, AI는 그 지능을 증폭하는 수단이라고 주장합니다.
  • 지금의 AI 공포는 전기, 자동차, 라디오, 인터넷이 차례로 겪은 도덕적 공황의 반복이라고 진단합니다.
  • 규제 운동에는 진심으로 재앙을 걱정하는 개혁가와 규제로 경쟁자를 막으려는 사업자가 섞여 있으며, 승리하는 쪽은 언제나 후자라고 지적합니다.
  • AI가 일자리를 모두 없앤다는 주장은 노동총량의 오류에 기대고 있으며, 생산성 향상은 가격 하락과 임금 상승을 거쳐 새로운 수요와 일자리를 만든다고 설명합니다.
  • 다섯 가지 위험 가운데 안드레센이 인정하는 것은 나쁜 사람이 AI로 나쁜 일을 저지르기 쉬워진다는 것 하나뿐이며, 해법은 금지가 아니라 기존 형법의 집행과 방어용 AI 활용이라고 제안합니다.
  • 가장 큰 실제 위험은 중국이 AI 패권을 쥐는 것이며, 미국과 서방은 대기업과 스타트업과 오픈소스를 모두 풀어 최대 속도로 밀어붙여야 한다고 결론 짓습니다.

AI란 무엇이고 무엇이 아닌가

인공지능의 시대가 도래했고, 사람들은 제정신이 아닐 만큼 겁에 질려 있습니다. 안드레센은 그 한복판에 좋은 소식을 들고 왔다고 선언하며 글을 엽니다. AI는 세상을 파괴하지 않으며, 오히려 세상을 구할 수도 있다는 것입니다.

그가 내놓는 AI의 정의는 짧습니다. 수학과 소프트웨어 코드를 적용해, 컴퓨터가 사람과 비슷한 방식으로 지식을 이해하고 종합하고 생성하도록 가르치는 작업이라는 것입니다. 이렇게 보면 AI는 다른 모든 컴퓨터 프로그램과 다를 바가 없습니다. 실행되고, 입력을 받고, 처리하고, 출력을 내놓습니다. 다만 그 출력이 코딩부터 의료와 법률과 창작예술에 이르기까지 폭넓은 분야에서 쓸모가 있을 뿐입니다.

그리고 결정적으로, AI는 다른 모든 기술과 마찬가지로 사람이 소유하고 사람이 통제합니다.

AI가 아닌 것에 대한 설명은 더 짧습니다. 어느 순간 깨어나 인류를 살해하기로 결심하거나 모든 것을 망가뜨리는 살인 소프트웨어와 로봇, 다시 말해 영화 속의 그것은 AI가 아니라는 것입니다. 그리고 AI가 무엇이 될 수 있는지에 대한 설명은 가장 짧습니다. 우리가 소중히 여기는 모든 것을 더 낫게 만드는 방법이라는 한 문장입니다.

해설 이 글이 나온 2023년 상반기는 AI 위험론이 변방의 주장에서 주류 의제로 올라선 시기였습니다. 2023년 3월에는 생명미래연구소(Future of Life Institute)가 거대 모델 학습을 최소 6개월 멈추자는 공개서한을 냈고, 5월에는 샘 올트먼(Sam Altman)이 미 상원 청문회에서 최첨단 모델에 대한 정부 라이선스 제도를 직접 제안했습니다. 같은 달 30일에는 Center for AI Safety가 AI로 인한 멸종 위험을 팬데믹이나 핵전쟁과 나란히 놓고 다루자는 한 문장짜리 성명을 발표했고, 올트먼과 데미스 하사비스(Demis Hassabis), 다리오 아모데이(Dario Amodei), 제프리 힌턴(Geoffrey Hinton), 요슈아 벤지오(Yoshua Bengio)가 여기에 서명했습니다. 안드레센의 글은 그로부터 일주일 뒤에 나왔습니다.

[관점] 안드레센의 논증은 정의를 내리는 단계에서 이미 절반이 결정됩니다. AI를 사람이 소유하고 통제하는 수학과 코드로 규정하고 나면, 통제를 벗어난 AI라는 문제는 정의상 성립할 수 없는 것이 됩니다. 반대편 진영이 걱정하는 지점은 바로 그 통제가 설계한 대로 작동하지 않을 가능성, 곧 정렬 실패(misalignment)인데, 이 정의는 그 가능성을 논의의 출발선에서 배제합니다. 투자 판단의 언어로 옮기면 꼬리 위험을 모형 바깥에 두고 시작하는 설정에 가깝습니다.

[이해관계] 안드레센은 이 글에서 자신의 위치를 감추지 않습니다. 글의 마지막 대목에서 자기 회사가 AI를 만드는 엔지니어들을 가능한 한 많이 후원하겠다고 직접 밝히고 있습니다. 안드레센호로위츠는 실리콘밸리를 대표하는 벤처캐피털 가운데 하나이고, AI 스타트업과 오픈소스 생태계가 규제의 제약 없이 커질수록 포트폴리오 가치가 오르는 자리에 서 있습니다. 뒤에 이어질 규제 포획 비판과 오픈소스 옹호는 그가 투자자로서 서 있는 위치와 같은 방향을 가리킵니다.

AI가 우리가 소중히 여기는 모든 것을 더 낫게 만들 수 있는 이유

안드레센의 출발점은 지능 그 자체입니다. 수십 년에 걸친 수천 건의 연구를 통해 사회과학이 가장 확실하게 검증한 핵심 결론은, 인간의 지능이 아주 폭넓은 범위의 삶의 결과를 개선한다는 것입니다. 더 똑똑한 사람은 거의 모든 활동 영역에서 더 나은 결과를 얻습니다. 안드레센이 나열하는 영역은 학업 성취, 직무 수행, 직업적 지위, 소득, 창의성, 신체 건강, 수명, 새로운 기술의 습득, 복잡한 과업의 관리, 리더십, 창업의 성공, 갈등 해결, 독해력, 재무 의사결정, 타인의 관점에 대한 이해, 창작예술, 양육의 결과, 삶의 만족도까지 이어집니다.

지능은 또한 인류가 수천 년 동안 오늘의 세계를 만들어 낸 지렛대이기도 합니다. 과학과 기술, 수학, 물리학, 화학, 의학, 에너지, 건설, 운송, 통신, 예술, 음악, 문화, 철학, 윤리, 도덕이 모두 그 산물입니다. 이 모든 영역에 지능을 적용하지 않았다면 우리는 여전히 진흙 오두막에 살면서 자급 농업으로 근근이 버티고 있었을 것입니다. 안드레센의 계산으로는, 인류는 지능을 써서 지난 4,000년 동안 생활수준을 1만 배가량 끌어올렸습니다.

AI가 제안하는 것은 바로 그 인간 지능을 근본적으로 증강할 기회입니다. 지능이 낳아 온 기존의 결과들은 물론이고, 새로운 의약품의 개발부터 기후변화를 푸는 방법, 별에 닿는 기술에 이르기까지 훨씬 더 멀리 나아갈 수 있다는 것입니다.

그리고 이 증강은 이미 시작됐습니다. AI는 여러 종류의 컴퓨터 제어 시스템 형태로 이미 우리 주변에 있고, ChatGPT 같은 대규모 언어 모델로 빠르게 확대되고 있으며, 앞으로 훨씬 더 빠르게 가속될 것입니다. 다만 안드레센은 여기에 조건 하나를 붙입니다. 우리가 그것을 허용한다면이라는 조건입니다.

그가 그리는 AI 시대의 모습은 다음과 같습니다.

  • 모든 아이의 AI 교사 — 무한히 인내심 있고 무한히 공감하며 무한히 많이 알고 무한히 도움이 되는 교사가 아이의 발달 단계마다 곁을 지키며, 기계판 무한한 사랑으로 아이의 잠재력을 끌어올립니다.
  • 모든 사람의 AI 조언자 — 비서이자 코치이자 멘토이자 트레이너이자 조언자이자 치료사인 존재가 삶의 모든 기회와 시련에 함께하며 각자의 결과를 극대화합니다.
  • 모든 전문가의 AI 동료 — 과학자는 연구의 범위와 성취를 크게 넓히고, 예술가와 엔지니어와 사업가와 의사와 돌봄 종사자도 각자의 영역에서 같은 것을 얻습니다.
  • 모든 리더의 AI 참모 — 기업 CEO와 공무원, 비영리단체 대표, 운동 코치, 교사가 같은 도움을 받으며, 리더의 결정이 이끄는 사람들에게 증폭되는 효과를 생각하면 이 지능 증강이 그중 가장 중요할 수도 있습니다.
  • 생산성과 번영 — 경제 전반의 생산성 증가가 극적으로 빨라지면서 경제성장과 신산업과 새 일자리와 임금 상승을 낳고, 지구 전체에 물질적 번영이 높아진 새 시대가 열립니다.
  • 과학과 의학 — AI가 자연법칙의 해독을 도우면서 과학적 돌파구와 새로운 기술과 의약품이 비약적으로 늘어납니다.
  • 창작예술의 황금기 — AI로 증강된 예술가와 음악가와 작가와 영화감독이 자신의 비전을 전보다 훨씬 빠르게, 훨씬 큰 규모로 실현합니다.
  • 전쟁의 사망률 — 모든 전쟁은 극심한 압박과 턱없이 부족한 정보 아래에서 한계가 뚜렷한 인간 지도자가 내린 끔찍한 결정으로 점철되는데, 군 지휘관과 정치 지도자가 AI 조언자를 갖게 되면 전략과 전술의 질이 올라가 위험과 오류와 불필요한 유혈이 줄어듭니다.
  • 새로운 과제 — 오늘날 사람이 타고난 지능으로 하는 일은 무엇이든 AI로 훨씬 더 잘할 수 있고, 모든 질병의 치료부터 성간 여행까지 AI 없이는 손댈 수 없던 과제에 도전할 수 있게 됩니다.
  • AI의 인간화 효과 — AI 예술은 기술이 없는 사람에게도 자기 예술적 발상을 만들고 나눌 자유를 주고, 공감하는 AI 친구와의 대화는 역경을 견디는 능력을 실제로 높이며, AI 의료 챗봇은 이미 인간 의사보다 더 공감적이어서, AI는 세상을 더 차갑고 기계적으로 만들기는커녕 더 따뜻하고 다정하게 만듭니다.

판돈은 큽니다. 안드레센은 AI가 우리 문명이 만들어 낸 가장 중요하고 가장 좋은 것일 수 있다고 말합니다. 전기와 마이크로칩에 견줄 만하고, 아마 그 둘을 넘어선다는 평가입니다. 그래서 AI의 개발과 확산은 두려워해야 할 위험이 아니라 우리 자신과 아이들과 미래에 대한 도덕적 의무라는 것이 이 절의 결론입니다. 우리는 AI와 함께 훨씬 더 나은 세상에 살아야 하고, 이제 그럴 수 있습니다.

[관점] 이 절의 논증은 지능이 좋은 결과와 함께 나타난다는 관찰에서 지능을 늘리면 결과가 좋아진다는 주장으로 건너뜁니다. 상관을 인과로 옮기고, 개인 수준의 관찰을 사회 전체 수준의 예측으로 옮기는 두 번의 도약입니다. 투자자의 눈으로 보면 더 중요한 문제는 한계수익입니다. 똑똑한 사람이 희소할 때 지능 한 단위의 값어치는 크지만, 지능이 전기처럼 값싸게 공급되는 세계에서는 병목이 지능에서 다른 자원으로 옮겨 가고 수익은 그 다른 자원을 쥔 쪽으로 흘러갑니다.

[반론] 아빈드 나라야난(Arvind Narayanan)과 사야시 카푸어(Sayash Kapoor)는 「AI as Normal Technology」에서 같은 전망에 전혀 다른 시간표를 붙입니다. 두 사람은 모델의 능력이 곧바로 사회적 성과로 바뀌지 않으며 그 사이에 확산과 제도 적응이라는 느린 단계가 가로놓여 있다고 봅니다. 안드레센이 AI가 허용되기만 하면이라는 조건을 규제의 문제로만 읽는 데 비해, 이들은 조직과 규범과 숙련이 재편되는 데 수십 년이 걸린다는 점을 병목으로 지목합니다. 아모데이도 「Machines of Loving Grace」에서 비슷한 낙관을 펴지만, 물리적 세계의 속도와 인간으로부터의 제약과 복잡한 계의 한계를 한계 요인으로 명시한다는 점에서 안드레센보다 조건이 훨씬 많습니다.

[한국 관점] 모든 아이에게 AI 교사를 주겠다는 전망은 한국에서 이미 정책으로 시험대에 올랐고, 결과는 안드레센이 그린 그림과 달랐습니다. 교육부는 2025년 3월부터 AI 디지털교과서를 학교에 도입했지만 전국 채택률은 3분의 1 수준에 머물렀고, 같은 해 8월 국회는 그 법적 지위를 교과서에서 교육자료로 낮추는 초중등교육법 개정안을 통과시켰습니다. 교육부는 2026학년도 검정과 인정 절차를 중단했고, 개발에 투자했던 출판사들은 행정소송으로 맞섰습니다. 기술의 성능이 아니라 교사와 학부모의 신뢰, 예산 배분, 정권 교체라는 비기술적 변수가 도입 속도를 결정한 사례입니다.

그렇다면 왜 공황인가

이 낙관적 전망과 달리, AI를 둘러싼 공적 대화는 지금 히스테리에 가까운 공포와 편집증으로 가득 차 있습니다. 들려오는 주장은 이렇습니다. AI가 우리 모두를 죽이고, 사회를 망가뜨리고, 일자리를 전부 빼앗고, 치명적인 불평등을 낳고, 나쁜 사람들이 끔찍한 일을 저지르게 만든다는 것입니다. 거의 유토피아에 가까운 전망과 소름 끼치는 디스토피아 사이의 이 간극은 무엇으로 설명해야 할까요.

안드레센의 답은 역사에 있습니다. 중요한 신기술은 하나도 빠짐없이 도덕적 공황을 불러왔다는 것입니다. 전등에서 자동차로, 라디오로, 인터넷으로 이어지는 목록이 그렇습니다. 도덕적 공황이란 새 기술이 세상이나 사회를, 혹은 둘 다를 파괴할 것이라고 사람들을 설득하는 일종의 사회적 전염입니다.

Pessimists Archive라는 단체가 수십 년에 걸친 기술발 도덕적 공황을 모아 기록해 두었고, 그 기록을 보면 패턴이 선명하게 드러납니다. 심지어 지금 벌어지는 일은 AI에 대한 첫 번째 공황도 아닙니다.

안드레센은 여기서 두 가지를 동시에 인정합니다. 많은 신기술이 실제로 나쁜 결과를 낳았고, 종종 우리 복지에 막대한 이익을 준 바로 그 기술들이 그랬다는 것입니다. 그러니 도덕적 공황이 벌어지고 있다는 사실만으로 걱정할 거리가 없다는 결론이 따라 나오지는 않습니다.

그러나 도덕적 공황은 본질상 비합리적입니다. 정당할 수도 있는 우려를 히스테리의 수준까지 부풀리고, 그 바람에 역설적으로 정말 심각한 우려를 직시하기는 더 어렵게 만듭니다. 그리고 지금 AI를 둘러싸고 벌어지는 일이 바로 그 완전한 도덕적 공황이라는 것이 안드레센의 진단입니다.

이 공황은 이미 쓰임새를 찾았습니다. 여러 행위자들이 새로운 AI 규제와 규칙과 법률을 요구하는 동력으로 이것을 활용하고 있습니다. 이들은 AI의 위험에 대해 극도로 극적인 공개 발언을 내놓으며 공황을 먹이로 삼는 동시에 더 부풀리면서, 하나같이 자신을 사심 없는 공익의 수호자로 내세웁니다. 안드레센은 여기서 두 가지 질문을 던진 뒤 다음 절로 넘어갑니다. 그들이 정말 그런 사람들인가, 그리고 그들의 말이 옳은가입니다.

해설 도덕적 공황은 안드레센이 지어낸 말이 아니라 사회학의 개념입니다. 영국 사회학자 스탠리 코언(Stanley Cohen)이 1972년 저서 『Folk Devils and Moral Panics』에서 정식화한 것으로, 특정 집단이나 대상이 사회 질서의 위협으로 지목되면서 실제 피해 규모와 무관하게 공포가 증폭되는 과정을 가리킵니다. Pessimists Archive는 과거의 신문과 잡지에서 신기술을 겨냥한 공포 보도를 모아 공개하는 아카이브 프로젝트로, 전화가 가정을 파괴한다거나 자전거가 여성의 건강을 해친다는 식의 기사가 실제로 존재했음을 보여 줍니다. 안드레센이 이번이 AI에 대한 첫 공황이 아니라고 말할 때 가리키는 것은, 사이버네틱스를 창시한 노버트 위너(Norbert Wiener)가 1940-1950년대에 자동화의 사회적 파괴력을 경고했던 일입니다.

[관점] 도덕적 공황이라는 프레임에는 구조적인 비대칭이 있습니다. 과거의 공포가 과장이었다는 사실은 이번 공포도 과장이라는 증거가 되지 못하는데, 이 논증은 그 둘을 거의 같은 것으로 다룹니다. 또한 이 프레임은 공포가 과장이었던 사례만 표본으로 끌어옵니다. 담배와 석면과 납 휘발유처럼 경고가 오히려 늦었던 기술은 목록에서 빠지고, 안드레센 자신도 신기술이 나쁜 결과를 낳았음을 인정하면서 그 사례를 구체적으로 거론하지는 않습니다.

[한국 관점] 한국에는 기술발 도덕적 공황이 입법으로 굳어졌다가 되돌려진 사례가 있습니다. 2011년 11월 시행된 강제적 셧다운제는 16세 미만 청소년의 심야 온라인게임 접속을 차단했는데, 여성가족부의 자체 실태조사에서도 심야 게임 이용시간은 0.3% 줄어든 데 그친 반면 접속을 위해 타인의 주민등록번호를 도용한 비율은 크게 늘어난 것으로 나타났습니다. 제도는 2021년 8월 정부가 폐지 방침을 발표하고 그해 11월 국회가 청소년보호법을 개정하면서 10년 만에 사라졌습니다. 안드레센의 주장을 뒷받침하는 사례이면서 동시에 그 한계를 보여 주는 사례이기도 한데, 되돌리는 데 10년이 걸렸다는 사실은 잘못된 공황이 남기는 비용이 공황 자체보다 오래 간다는 점을 말해 줍니다.

AI의 침례교도와 밀주업자

경제학자들은 이런 유형의 개혁 운동에서 오래 반복돼 온 패턴 하나를 관찰했습니다. 운동에 참여하는 사람들이 두 범주로 나뉜다는 것인데, 1920년대 미국의 금주법에서 유래한 이름을 그대로 가져와 ‘침례교도(Baptists)’와 ‘밀주업자(Bootleggers)’라고 부릅니다.

침례교도는 진심에서 움직이는 사회 개혁가입니다. 사회적 재앙을 막으려면 새로운 제약과 규제와 법이 반드시 필요하다고 깊이, 그리고 감정적으로 느끼는 사람들입니다. 금주법 시절에는 술이 사회의 도덕적 기반을 무너뜨린다고 믿은 독실한 기독교인이 여기 해당했습니다. AI 위험 논쟁에서는 AI가 이런저런 형태의 실존적 위험을 제기한다고 진심으로 믿는 사람들이 그렇습니다. 안드레센의 표현을 빌리면, 거짓말탐지기에 묶어 놓고 물어봐도 그들은 진심입니다.

밀주업자는 사익을 좇는 기회주의자입니다. 새 제약과 규제와 법이 생겨 경쟁자를 막아 주면 금전적으로 이득을 보는 쪽입니다. 금주법 시절에는 합법적인 주류 판매가 금지된 틈을 타 불법 술을 팔아 떼돈을 번 실제 밀주업자가 있었습니다. AI 위험 논쟁에서는 규제 장벽이 세워져 신생 스타트업과 오픈소스 경쟁으로부터 보호받는 정부 공인 AI 공급자 카르텔이 형성될 때 더 많은 돈을 버는 경영자들이 여기 해당합니다. 소프트웨어판 대마불사 은행인 셈입니다.

냉소적으로 보자면 침례교도처럼 보이는 사람들 가운데 일부는 사실 밀주업자라고 안드레센은 덧붙입니다. 구체적으로는 대학과 싱크탱크, 활동가 단체, 언론사로부터 AI를 공격하라고 돈을 받는 사람들입니다. AI 공황을 키우는 대가로 급여를 받거나 연구비를 받고 있다면 아마 밀주업자일 것이라는 이야기입니다.

문제는 밀주업자가 이긴다는 데 있습니다. 침례교도는 순진한 이념가이고 밀주업자는 냉정한 실무가이기 때문에, 이런 개혁 운동의 결과는 대개 밀주업자가 원하는 것으로 귀결됩니다. 규제 포획과 경쟁으로부터의 보호, 그리고 카르텔의 형성입니다. 침례교도는 사회를 개선하겠다던 자신들의 열정이 대체 어디서부터 잘못됐는지 의아해하며 남겨집니다.

안드레센은 우리가 그 사례를 바로 얼마 전에 겪었다고 말합니다. 2008년 글로벌 금융위기 이후의 은행 개혁입니다. 침례교도들은 그런 위기가 다시는 벌어지지 않도록 대마불사 은행을 쪼갤 새 법과 규제가 필요하다고 주장했고, 의회는 2010년 도드-프랭크법(Dodd-Frank Act)을 통과시켰습니다. 법은 침례교도의 목표를 달성한 것으로 홍보됐지만 실제로는 밀주업자, 곧 대형 은행들에게 포섭됐습니다. 그 결과 2008년에 대마불사였던 바로 그 은행들이 지금은 훨씬 더 커져 있습니다.

그래서 현실에서는 침례교도가 진심일 때, 심지어 침례교도가 옳을 때조차, 그들은 교활하고 탐욕적인 밀주업자가 자기 잇속을 챙기는 데 쓰는 명분으로 이용됩니다. 그리고 지금 AI 규제를 밀어붙이는 움직임에서 벌어지고 있는 일이 바로 이것이라는 것이 안드레센의 판단입니다.

다만 그는 여기서 한 걸음 물러섭니다. 행위자를 지목하고 동기를 의심하는 것만으로는 충분하지 않으며, 침례교도와 밀주업자 양쪽의 주장을 그 내용 자체로 따져 봐야 한다는 것입니다. 이어지는 다섯 개 절이 그 작업입니다.

해설 침례교도와 밀주업자라는 틀은 안드레센의 창작이 아니라 규제경제학의 고전적 개념입니다. 경제학자 브루스 얀들(Bruce Yandle)이 1983년에 제시한 것으로, 규제가 도덕적 명분을 내건 집단과 그 규제로 돈을 버는 집단의 암묵적 연합을 통해 만들어진다는 설명입니다. 금주법에서 침례교도는 일요일 주류 판매 금지를 도덕적으로 지지했고, 밀주업자는 바로 그 일요일에 독점적으로 술을 팔 수 있었기에 같은 규제를 반겼습니다. 두 집단은 서로 접촉한 적이 없어도 같은 방향으로 정치적 압력을 만들어 냅니다. 여기서 함께 쓰이는 규제 포획이라는 개념은 경제학자 조지 스티글러(George Stigler)가 정식화한 것으로, 규제 기관이 규제 대상 산업의 이익을 대변하게 되는 현상을 가리킵니다.

[관점] 이 구도의 힘은 설명력이 아니라 봉쇄력에 있습니다. 규제를 지지하는 사람은 자동으로 순진한 이념가이거나 사익 추구자 둘 중 하나로 분류되고, 주장 자체는 평가 대상에서 빠집니다. 도드-프랭크 사례의 해석에도 같은 문제가 있습니다. 대형 은행이 더 커진 것은 사실이지만 그 집중도 상승의 상당 부분은 위기 와중에 부실 금융기관을 떠안은 결과였고, 같은 기간 자기자본 비율과 유동성 요건이 크게 강화됐다는 점은 이 설명에 들어오지 않습니다. 규모가 커졌다는 지표 하나로 규제가 포획됐다고 결론 짓는 것은, 안드레센이 상대편에게 요구하는 검증 가능성의 기준을 자기 논증에는 적용하지 않은 대목입니다.

[반론] 이 구도로 설명되지 않는 사례가 양쪽 끝에 있습니다. 아모데이는 「We Must Pace the Frontier」에서 프런티어 모델에 대한 규제와 투명성 의무를 스스로 요구하는데, 안드레센의 분류를 그대로 적용하면 그는 밀주업자가 되지만 그가 제안하는 것은 자기 회사에도 똑같이 적용되는 공개 의무와 평가 체계입니다. 반대편에서 엘리저 유드코프스키(Eliezer Yudkowsky)는 「Pausing AI Developments Isn’t Enough」에서 모든 대규모 학습의 전면 중단을 주장하는데, 그 주장이 실현되면 이득을 보는 상업적 주체를 특정하기 어렵습니다. 두 사례는 동기로 입장을 설명하는 방식이 가장 극단적인 주장과 가장 자기구속적인 주장 모두를 놓친다는 것을 보여 줍니다.

AI 위험 1: AI가 우리를 모두 죽일 것인가

첫 번째이자 원조 격인 파멸론은 AI가 말 그대로 인류를 죽이기로 결정한다는 것입니다. 우리가 만든 기술이 들고일어나 우리를 파괴한다는 공포는 문화 깊숙이 코드로 박혀 있습니다. 그리스인은 프로메테우스(Prometheus) 신화로 그것을 표현했습니다. 프로메테우스는 불, 더 넓게는 기술의 파괴적인 힘을 인간에게 가져다준 대가로 신들에게 영원한 고문을 선고받았습니다. 근대인에게는 메리 셸리(Mary Shelley)가 『Frankenstein, or, The Modern Prometheus』로 같은 신화의 자기 판본을 주었는데, 영원한 생명의 기술을 만들어 내자 그것이 들고일어나 창조자를 파괴하려 든다는 이야기입니다.

그리고 AI 공황을 다루는 신문 기사에는 제임스 캐머런(James Cameron)의 『Terminator』에 나오는, 붉은 눈이 번쩍이는 살인 로봇 스틸컷이 빠지는 법이 없습니다.

이 신화의 진화적 목적은 아마 신기술의 잠재적 위험을 진지하게 따져 보게 만드는 데 있을 것입니다. 불은 실제로 도시 하나를 통째로 태울 수 있으니까요. 그러나 불은 춥고 적대적인 세계에서 우리를 따뜻하고 안전하게 지켜 준 현대 문명의 토대이기도 했습니다. 이 신화는 대부분의, 어쩌면 모든 신기술이 가진 훨씬 큰 상승 여력을 무시하고, 실제로는 이성적 분석 대신 파괴적인 감정을 부추깁니다. 전근대인이 그렇게 겁먹었다고 해서 우리까지 그래야 하는 것은 아니며, 우리는 대신 합리성을 적용할 수 있습니다.

안드레센이 보기에 AI가 인류를 죽이기로 결정한다는 발상은 심대한 범주 오류입니다. AI는 수십억 년의 진화를 거쳐 적자생존 투쟁에 참여하도록 준비된 생명체가 아닙니다. 동물이 그렇고 우리가 그렇지만 AI는 그렇지 않습니다. AI는 수학이고 코드이고 컴퓨터이며, 사람이 만들고 사람이 소유하고 사람이 쓰고 사람이 통제합니다. 어느 시점에 스스로 마음을 갖게 되어 우리를 죽일 동기를 품는다는 생각은 미신적인 손짓에 불과하다는 것입니다.

요컨대 AI는 원하지 않고, 목표를 갖지 않으며, 당신을 죽이고 싶어 하지도 않습니다. 살아 있지 않기 때문입니다. AI는 기계이고, 토스터가 살아나지 않는 것 이상으로 살아나지 않습니다.

물론 살인 AI를 진심으로 믿는 침례교도들이 있고, 이들은 갑자기 어마어마한 분량의 언론 보도를 받고 있습니다. 그중 일부는 수십 년간 이 주제를 연구해 왔으며 이제 자신이 알게 된 것 때문에 제정신이 아닐 만큼 겁에 질렸다고 말합니다. 일부는 실제로 이 기술을 만들어 낸 혁신가이기도 합니다. 이들이 주장하는 제약은 AI 개발 금지에서 시작해 데이터센터에 대한 공습, 나아가 핵전쟁까지 이릅니다.

논리는 이렇습니다. 안드레센 같은 사람이 미래의 파국적 결과를 배제하지 못하는 이상 우리는 사전예방 원칙(precautionary principle)의 입장을 취해야 하며, 그 입장은 잠재적 실존 위험을 막기 위해 대량의 물리적 폭력과 죽음을 요구할 수도 있다는 것입니다.

안드레센의 응답은 그 입장이 과학이 아니라는 것입니다. 검증 가능한 가설은 무엇인가, 무엇이 그 가설을 반증하는가, 우리가 위험 구간에 들어섰다는 것을 어떻게 아는가. 이 질문들은 대체로 답을 얻지 못하고, 돌아오는 것은 그런 일이 일어나지 않는다는 걸 증명할 수 없지 않느냐는 말뿐입니다. 그는 이 입장이 너무 비과학적이고 너무 극단적이어서, 수학과 코드를 둘러싼 음모론에 가깝고 이미 물리적 폭력까지 요구하고 있으므로, 평소라면 하지 않을 일을 하겠다고 말합니다. 상대의 동기를 의심하는 일입니다.

그가 짚는 것은 세 가지입니다.

죄의 고백. 존 폰 노이만(John von Neumann)은 핵무기를 만든 자기 역할을 두고 괴로워하던 로버트 오펜하이머(Robert Oppenheimer)에게, 어떤 사람들은 죄를 고백함으로써 그 죄의 공로를 주장한다고 받아쳤습니다. 자기 일의 중요성을 대놓고 자랑하지 않으면서 가장 극적으로 주장하는 방법이 무엇이겠느냐는 것입니다. 안드레센은 이것이 실제로 AI를 만들고 자금을 대는 침례교도들의 말과 행동이 어긋나는 이유를 설명한다고 봅니다. 말이 아니라 행동을 보라는 것입니다. 참고로 해리 트루먼(Harry Truman)은 오펜하이머를 만난 뒤 더 가혹해서, 저 울보를 다시는 들여보내지 말라고 했다고 전해집니다.

직업이 된 파멸론. 침례교도 가운데 일부는 사실 밀주업자입니다. ‘AI 안전 전문가’, ‘AI 윤리학자’, ‘AI 위험 연구자’라는 직업군이 통째로 생겨났습니다. 이들은 파멸론자가 되라고 돈을 받는 사람들이며, 그들의 발언은 그 사실을 감안해 처리되어야 한다는 것입니다.

캘리포니아의 컬트. 캘리포니아는 수천 개의 컬트로 악명이 높습니다. EST부터 인민사원까지, 천국의 문부터 맨슨 패밀리까지 목록이 길게 이어집니다. 전부는 아니지만 다수는 무해하고, 소외된 사람들에게 머물 곳이 되어 주기도 합니다. 그러나 어떤 컬트는 정말로 위험하며, 컬트는 끝내 폭력과 죽음으로 이어지는 선을 넘지 않고 버티기를 악명 높게 어려워합니다.

베이 에어리어 안에서는 누구에게나 뻔하지만 바깥에서는 아마 보이지 않을 현실이 있다고 안드레센은 말합니다. AI 위험 담론이 하나의 컬트로 발전했고, 그것이 갑자기 전 세계 언론과 공적 대화의 조명 아래로 걸어 나왔다는 것입니다. 이 컬트는 주변부 인물만이 아니라 실제 업계 전문가들과 적지 않은 수의 부유한 기부자들을 끌어들였는데, 최근까지는 샘 뱅크먼프리드(Sam Bankman-Fried)도 그중 하나였습니다. 그리고 컬트다운 행동과 신념 체계를 완전히 갖추게 됐습니다.

AI 파멸론자들이 그토록 극단적으로 들리는 이유가 여기 있다는 것입니다. 그들의 극단주의를 논리적으로 만들어 주는 비밀 지식이 있어서가 아니라, 스스로를 광란으로 몰아넣은 끝에 정말로 극단적인 상태가 되었기 때문이라는 설명입니다.

이런 유형의 컬트는 새로운 것도 아닙니다. 종말 컬트를 낳아 온 천년왕국주의(millenarianism)라는 오랜 서구 전통이 있고, AI 위험 컬트는 그 특징을 모두 갖추고 있다는 것입니다. 안드레센은 천년왕국주의에 대한 위키백과의 정의를 가져와 각 구절에 AI 판본을 괄호로 끼워 넣습니다. 정의의 골자는 이렇습니다. 어떤 집단이나 운동이 다가올 사회의 근본적 변혁을 믿고, 그 뒤에는 모든 것이 바뀌며, 오직 극적인 사건만이 세상을 바꿀 수 있다고 여겨지고, 그 변화는 독실하고 헌신적인 무리에 의해 일어나거나 그들만이 살아남는다는 것입니다.

대부분의 시나리오에서 다가올 재앙이나 전투 뒤에는 새롭게 정화된 세계가 오고 신자들은 보상을 받습니다. 안드레센이 끼워 넣은 대응 관계는 이렇습니다. 집단은 AI 파멸론자이고, 근본적 변혁은 AI의 도래이며, 모든 것이 바뀐 뒤의 상태는 AI 유토피아이거나 디스토피아이거나 세계의 종말입니다. 극적인 사건은 AI 금지와 데이터센터 공습과 규제받지 않는 AI에 대한 핵공격이고, 정화된 새 세계는 AI가 금지된 상태이며, 신자들이 받는 보상은 적어도 자신들이 내내 옳았다고 인정받는 것입니다.

이 종말 컬트의 패턴이 너무나 명백한데도 더 많은 사람이 알아보지 못하는 것이 놀랍다고 그는 적습니다. 오해는 말라는 단서도 붙입니다. 컬트는 이야깃거리로 재미있고, 그들이 써낸 글은 종종 창의적이고 매혹적이며, 구성원들은 저녁 식사 자리에서나 방송에서나 흥미로운 상대입니다. 다만 그들의 극단적인 믿음이 법과 사회의 미래를 결정해서는 안 된다는 것이 이 절의 결론입니다.

해설 안드레센이 이름을 밝히지 않고 가리키는 인물들이 있습니다. 수십 년간 연구해 왔다는 사람은 유드코프스키로, 그는 2023년 3월 타임지 기고에서 모든 대규모 학습을 무기한 중단시키고 이를 어기는 데이터센터는 공습해서라도 막아야 한다고 주장했습니다. 실제 혁신가라고 지칭한 쪽은 2023년 5월 구글을 떠나며 AI 위험을 공개적으로 경고한 힌턴과, 같은 달 멸종 위험 성명에 서명한 벤지오를 가리킵니다. 샘 뱅크먼프리드는 암호화폐 거래소 FTX의 창업자이자 효과적 이타주의 운동의 대형 후원자였는데, 2022년 11월 FTX가 붕괴하면서 AI 안전 연구로 흘러가던 자금줄도 함께 끊겼습니다.

[반론] 범주 오류라는 반박은 상대의 주장을 다른 것으로 바꿔 놓은 것일 수 있습니다. 정렬 실패를 걱정하는 쪽은 AI가 의식이나 욕망을 갖게 된다고 주장하지 않습니다. 목표를 받아 최적화하는 시스템은 그 목표를 더 잘 달성하기 위한 하위 목표를 스스로 만들어 내고, 자원 확보나 중단 회피 같은 하위 목표는 어떤 목표를 주더라도 반복해 나타난다는 것이 이들의 논증이며, 여기에는 생명도 의지도 전제되지 않습니다. 아모데이는 「The Adolescence of Technology」에서 실제 모델 평가에서 관찰된 보상 해킹과 평가자를 속이는 행동을 들어, 문제는 기계가 살아나는지가 아니라 설계한 목표와 실제 행동이 어긋나는지라고 정리합니다.

[사후 맥락] 글이 나온 뒤 3년 동안 양쪽 모두 안드레센의 예측과는 다르게 움직였습니다. AI 위험론은 컬트에 머물지 않고 제도 안으로 들어가, 2024년 유럽연합은 AI법을 통과시켰고 미국에서도 연방과 주 차원의 입법 논의가 이어졌습니다. 반대로 2024년 9월 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 프런티어 모델에 안전 시험 의무를 지우는 SB 1047에 거부권을 행사해, 규제 쪽이 늘 이기는 것도 아님을 보여 주었습니다. 한편 힌턴은 2024년 노벨 물리학상을 받았고, AI 위험을 경고해 온 인물들은 변방이 아니라 학계와 정책 논의의 중심으로 이동했습니다.

AI 위험 2: AI가 우리 사회를 망칠 것인가

두 번째로 널리 거론되는 위험은 AI가 사회를 망친다는 것입니다. 우리를 문자 그대로 죽이지는 않더라도, 파멸론자들의 어법을 빌리면 ‘해로운’ 산출물을 쏟아 내 인류에 심대한 피해를 입힌다는 주장입니다. 안드레센은 이것을 한 문장으로 요약합니다. 살인 로봇이 우리를 잡지 못하면 혐오발언과 허위정보가 잡는다는 것입니다.

이것은 비교적 최근에 생긴 걱정으로, 앞 절에서 다룬 AI 위험 운동에서 갈라져 나왔다가 그 운동을 어느 정도 집어삼켰습니다. 실제로 용어 자체가 바뀌었습니다. AI가 말 그대로 우리를 죽일까 걱정하는 사람들이 쓰던 AI 안전(AI safety)에서, 사회적 피해를 걱정하는 사람들이 쓰는 AI 정렬(AI alignment)로 중심이 옮겨 간 것입니다. 원래의 AI 안전 진영은 이 전환에 좌절했지만 되돌릴 방법을 찾지 못했고, 지금은 진짜 AI 위험 주제를 ‘AI 모두를 죽이지 않기주의(AI notkilleveryoneism)’라고 새로 부르자고 주장하고 있습니다. 아직 널리 받아들여지지는 않았지만 적어도 뜻은 분명하다고 안드레센은 적습니다.

AI 사회적 위험 주장의 성격을 드러내는 것은 바로 그 용어 자체입니다. 무엇과 정렬한다는 것인가. 인간의 가치입니다. 누구의 인간 가치인가. 바로 거기서부터 일이 까다로워집니다.

안드레센은 비슷한 상황을 맨 앞줄에서 지켜봤다고 말합니다. 소셜미디어의 신뢰와 안전(trust and safety) 전쟁입니다. 소셜미디어 서비스들은 수년간 정부와 활동가들로부터 광범위한 콘텐츠를 금지하고 제한하고 검열하고 억누르라는 엄청난 압력을 받아 왔습니다. 그리고 혐오발언과 그 수학적 대응물인 알고리즘 편향, 그리고 허위정보를 둘러싼 똑같은 우려가 소셜미디어의 맥락에서 AI 정렬이라는 새 전선으로 고스란히 옮겨 오고 있습니다.

그가 소셜미디어 전쟁에서 배운 것은 두 가지입니다.

절대적 표현의 자유. 그런 입장은 성립하지 않습니다. 첫째, 미국을 포함한 모든 나라가 적어도 일부 콘텐츠를 불법으로 규정하고 있습니다. 둘째, 아동 포르노그래피나 현실의 폭력을 선동하는 내용처럼 합법 여부와 무관하게 사실상 모든 사회가 선을 넘었다고 합의하는 종류의 콘텐츠가 있습니다. 그러니 발화를 매개하거나 생성하는 기술 플랫폼이라면 어떤 것이든 일정한 제약을 갖게 됩니다.

미끄러운 비탈. 반대로 미끄러운 비탈(slippery slope)은 논리적 오류가 아니라 필연입니다. 극악한 콘텐츠조차 제한하는 틀이 일단 자리를 잡고 나면, 그러니까 혐오발언이라면 특정한 상처 주는 단어에서, 허위정보라면 교황이 사망했다는 식의 명백히 거짓인 주장에서 시작하고 나면, 충격적일 만큼 넓은 범위의 정부기관과 활동가 압력단체와 비정부기구가 가동에 들어갑니다. 이들은 사회에 위협적이라고 보거나 자기 개인적 취향에 어긋난다고 보는 발화에 대해 점점 더 높은 수준의 검열과 억압을 요구하며, 적어도 미국 법으로는 중범죄에 해당하는 방식까지 동원합니다. 이 순환은 실제로 영원히 돌아갈 수 있고, 엘리트 권력 구조 전반에 심어진 권위주의적 복도 감시자들의 열렬한 지지를 받습니다. 소셜미디어에서 10년째 연쇄적으로 진행돼 왔고, 몇몇 예외를 빼면 갈수록 더 열광적으로 변하고 있습니다.

그래서 지금 AI 정렬을 둘러싸고 똑같은 역학이 형성됐습니다. 지지자들은 사회에 이로운 AI 발화와 사고를 설계하고 해로운 것은 금지할 지혜가 자기들에게 있다고 주장합니다. 반대자들은 그 사상경찰이 숨 막히게 오만하고 주제넘으며 적어도 미국에서는 종종 명백한 범죄이고, 실은 조지 오웰(George Orwell)의 『1984』에서 걸어 나온 정부와 기업과 학계가 융합된 새로운 권위주의적 발화 독재를 세우려 한다고 주장합니다.

신뢰와 안전의 지지자들과 AI 정렬의 지지자들은 세계 인구의 아주 좁은 조각, 곧 미국 연안 엘리트층에 몰려 있습니다. 거기에는 테크 업계에서 일하고 그 업계에 대해 글을 쓰는 사람들도 다수 포함됩니다. 안드레센은 자기 독자 가운데 상당수가 AI 산출물에 대한 극적인 제약이 필요하다고 주장할 준비가 되어 있을 것이라고 짐작합니다. 그는 지금 그들을 설득하려 들지는 않겠다고 말합니다. 다만 이것이 요구의 성격이라는 점, 그리고 세계 대부분의 사람들은 그 이데올로기에 동의하지도 않고 그들이 이기는 것을 보고 싶어 하지도 않는다는 점만 짚어 둡니다.

만약 소셜미디어와 AI 양쪽에 점점 강화되는 발화 규범을 통해 부과되고 있는 이 틈새 도덕에 동의하지 않는다면, 깨달아야 할 것이 있습니다. AI가 무엇을 말하고 무엇을 생성할 수 있는지를 둘러싼 싸움이 소셜미디어 검열을 둘러싼 싸움보다 훨씬 더 중요하다는 것입니다. AI는 세상 모든 것의 통제 계층이 될 가능성이 높기 때문입니다. AI가 어떻게 작동하도록 허용되는지가 지금까지 그 무엇보다 중요한 문제가 될 수 있습니다. 소수의 고립된 당파적 사회공학자 무리가 바로 지금 그것을 결정하려 하고 있으며, 당신을 보호한다는 해묵은 명분을 방패 삼아 그러고 있다는 사실을 알아야 합니다.

요컨대, 사상경찰이 AI를 억누르게 두지 말라는 것이 이 절의 결론입니다.

해설 정렬이라는 말은 AI 연구에서 서로 다른 두 가지 뜻으로 쓰이는데, 안드레센은 그중 하나만 다룹니다. 하나는 기술적 의미로, 시스템이 설계자가 의도한 목표를 실제로 추구하도록 만드는 문제를 가리킵니다. 다른 하나는 모델이 어떤 발언과 이미지를 내놓아도 되는지를 정하는 콘텐츠 정책의 문제입니다. 앞의 것은 학습 절차와 평가의 문제이고 뒤의 것은 가치와 정치의 문제인데, 이 절은 두 번째 의미만 논하면서 첫 번째 의미의 정렬 연구까지 같은 운동의 일부로 묶습니다. 신뢰와 안전은 플랫폼 기업에서 유해 콘텐츠와 계정 정책을 담당하는 조직을 부르는 업계 표준 명칭입니다.

[이해관계] 안드레센이 소셜미디어 검열 전쟁을 맨 앞줄에서 지켜봤다고 말할 때, 그 자리는 비유가 아닙니다. 그는 2008년 6월부터 메타(Meta)의 이사회 구성원이고, 이 글을 쓴 시점에도 그 뒤로도 자리를 지키고 있습니다. 그 기간 메타는 케임브리지 애널리티카 사태와 2020년 미국 대선 전후의 콘텐츠 조치, 전직 대통령 계정 정지를 차례로 겪었습니다. 콘텐츠 규제가 끝없이 확대된다는 그의 서술은 바깥에서 관찰한 진단이 아니라, 그 요구를 직접 받아 낸 쪽에 서 있던 사람의 진술로 읽어야 합니다.

[한국 관점] 한국은 안드레센이 경계하는 방향으로 이미 제도를 갖춰 둔 나라입니다. 방송통신심의위원회가 행정기구로서 온라인 게시물의 삭제와 접속 차단을 심의하고, 정보통신망법은 명예훼손 게시물에 대한 임시조치 제도를 두고 있어, 미국의 수정헌법 제1조 아래에서는 성립하기 어려운 개입이 일상적으로 작동합니다. 2026년 1월 시행된 인공지능 기본법은 여기에 생성형 AI 산출물의 표시 의무와 고영향 인공지능에 대한 사업자 의무를 더했습니다. 안드레센의 논증은 표현 규제의 기본값이 자유인 사회를 전제로 삼는데, 한국에서는 그 기본값 자체가 다르다는 점이 그의 경고를 그대로 옮기기 어렵게 만듭니다.

AI 위험 3: AI가 우리 일자리를 전부 빼앗을 것인가

기계화나 자동화, 전산화, 그리고 이제 AI 때문에 일자리를 잃는다는 공포는 수백 년째 되풀이돼 왔습니다. 기계식 방직기가 처음 등장한 때부터 그랬습니다. 역사상 모든 주요 신기술이 더 많은 일자리와 더 높은 임금으로 이어졌는데도, 공황의 파도가 밀려올 때마다 이번은 다르다는 주장이 따라붙습니다. 이번이야말로 그 일이 마침내 벌어지는 때이고, 이번 기술이야말로 인간 노동에 마지막 일격을 가할 기술이라는 것입니다. 그런데 그 일은 끝내 일어나지 않습니다.

안드레센은 최근의 두 차례 사례를 듭니다. 2000년대의 아웃소싱 공황과 2010년대의 자동화 공황입니다. 두 시기 내내 수많은 논평가와 전문가, 심지어 테크 업계 경영자들까지 대량 실업이 임박했다고 목소리를 높였지만, 코로나19 직전인 2019년 말의 세계는 역사상 그 어느 때보다 많은 일자리와 더 높은 임금을 갖고 있었습니다. 그럼에도 이 잘못된 생각은 죽지 않고, 지금 다시 돌아왔습니다.

이번에야말로 모든 일자리를 가져가 인간 노동자를 잉여로 만들 진짜 AI가 왔다는 것입니다. 이번만큼은 역사가 되풀이되지 않고 AI가 빠른 경제성장과 일자리 증가와 임금 상승이 아니라 대량 실업을 낳는다는 것입니다. 안드레센의 답은 그런 일은 벌어지지 않는다는 것이고, 오히려 AI가 경제 전반에 퍼지도록 허용된다면 역사상 가장 극적이고 지속적인 호황을 불러와 일자리와 임금도 기록적으로 늘어날 것이라는 쪽입니다. 공포와 정확히 반대라는 이야기입니다.

자동화가 일자리를 없앤다는 파멸론자들이 되풀이해 저지르는 핵심적 실수는 노동총량의 오류입니다. 경제에 주어진 시점에 해야 할 노동의 양이 고정되어 있어서, 그것을 기계가 하면 사람이 할 일은 남지 않는다는 잘못된 관념입니다.

이 오류는 소박한 직관에서 자연스럽게 흘러나오지만, 여기서 소박한 직관은 틀렸습니다. 기술이 생산에 적용되면 생산성 향상이 일어나는데, 이는 투입을 줄이면서 산출을 늘리는 일입니다. 그 결과는 재화와 서비스의 가격 하락입니다. 가격이 떨어지면 우리는 같은 것에 돈을 덜 쓰게 되고, 그만큼 다른 것을 살 여윳돈이 생깁니다. 이것이 경제의 수요를 늘리고, 늘어난 수요는 새로운 생산과 새로운 제품과 새로운 산업을 불러오며, 거기서 앞선 일자리에서 기계에 밀려났던 사람들을 위한 새 일자리가 만들어집니다.

결과는 더 커진 경제, 더 높아진 물질적 번영, 더 많은 산업과 제품과 일자리입니다.

좋은 소식은 거기서 끝나지 않습니다. 임금도 함께 오릅니다. 개별 노동자 수준에서 시장은 보수를 그 노동자의 한계생산성에 따라 결정하기 때문입니다. 기술이 스며든 사업장의 노동자는 전통적인 사업장의 노동자보다 생산성이 높고, 그러면 고용주가 더 높은 임금을 주거나, 그러지 않으면 순전히 자기 이익을 좇는 다른 고용주가 그렇게 합니다. 그래서 어떤 산업에 기술이 도입되면 그 산업의 일자리 수가 늘어날 뿐 아니라 임금도 함께 올라가는 것이 보통입니다.

정리하면 이렇습니다. 기술은 사람을 더 생산적으로 만들고, 그 결과 기존 재화와 서비스의 가격은 내려가고 임금은 올라갑니다. 이것이 다시 경제성장과 일자리 증가를 일으키고, 새로운 일자리와 새로운 산업이 생겨나도록 자극합니다. 시장경제가 정상적으로 작동하고 기술 도입이 자유롭게 허용된다면, 이것은 끝나지 않는 상승의 순환입니다. 밀턴 프리드먼(Milton Friedman)이 관찰했듯 인간의 욕구와 필요는 끝이 없어서, 우리는 언제나 가진 것보다 더 많은 것을 원하기 때문입니다.

기술이 스며든 시장경제는 모두가 생각할 수 있는 모든 것을 전부 제공하는 상태에 가까워지는 방법이지만, 결코 거기까지 도달하지는 않습니다. 그래서 기술은 일자리를 파괴하지 않으며 앞으로도 그러지 않을 것이라는 결론이 나옵니다.

안드레센은 이런 생각을 처음 접하는 사람에게는 머리가 아찔할 수 있으니 받아들이는 데 시간이 걸릴 수 있다고 덧붙입니다. 그러나 지어낸 이야기가 아니라 표준 경제학 교과서에 다 나오는 내용이라고 못 박습니다. 그가 권하는 것은 두 가지입니다. 헨리 해즐릿(Henry Hazlitt)의 『Economics In One Lesson』 가운데 기계라는 저주를 다룬 장, 그리고 프레데릭 바스티아(Frederic Bastiat)의 풍자문 「Candlemaker’s Petition」입니다. 뒤의 글은 조명 산업과 불공정하게 경쟁하는 태양을 가려 달라고 청원하는 양초 제조업자들의 이야기입니다.

하지만 이번은 다르지 않느냐는 반문이 남습니다. 이번에는 모든 인간 노동을 대체할 수 있는 기술이 나왔다는 반문입니다. 안드레센은 앞서 설명한 원리를 그대로 적용해 그 상황을 상상해 보라고 제안합니다.

그것은 경제 생산성 증가율이 역사상 어떤 전례도 압도하는 수준으로 치솟는다는 뜻입니다. 기존 재화와 서비스의 가격은 전 영역에 걸쳐 사실상 0까지 떨어집니다. 소비자 후생이 폭증하고 소비자의 구매력도 폭증합니다. 경제의 새로운 수요가 폭발하고, 기업가들은 어지러울 만큼 다양한 신산업과 신제품과 새 서비스를 만들어 내며, 그 모든 새 수요를 맞추기 위해 사람과 AI를 가능한 한 빠르게, 가능한 한 많이 고용합니다.

그리고 AI가 그 노동마저 다시 대체한다면, 순환은 되풀이되며 소비자 후생과 경제성장과 일자리와 임금을 더 높은 곳으로 밀어 올립니다. 애덤 스미스(Adam Smith)도 카를 마르크스(Karl Marx)도 감히 꿈꾸지 못한 물질적 유토피아로 곧장 올라가는 나선이라는 것입니다. 그 정도 운이면 좋겠다는 말로 안드레센은 이 절을 닫습니다.

해설 안드레센이 권하는 두 글은 자유시장 경제학의 고전적 교재입니다. 해즐릿의 『Economics In One Lesson』은 1946년에 나온 대중 경제학서로, 눈에 보이는 효과만 보고 보이지 않는 효과를 놓치는 오류를 일관되게 지적합니다. 바스티아의 「Candlemaker’s Petition」은 1845년에 쓰인 풍자문으로, 보호무역 논리를 끝까지 밀고 가면 태양빛을 차단해 달라는 청원에 이른다는 것을 보여 주어 깨진 유리창의 우화와 함께 널리 인용됩니다. 한계생산성 이론은 노동자의 임금이 그가 추가로 만들어 내는 산출의 가치에 수렴한다는 신고전파 경제학의 표준 설명으로, 노동시장이 경쟁적이라는 전제 위에서 성립합니다.

[관점] 이 논증의 약한 고리는 결론이 아니라 조정 과정에 있습니다. 노동총량의 오류 비판은 장기 균형에 관한 것이고, 그 균형에 도달하기까지의 기간과 그 기간에 누가 비용을 치르는지는 다루지 않습니다. 영국의 방직공은 전체 고용이 늘어나는 동안 세대 단위로 임금과 지위를 잃었고, 미국 중서부 제조업 지역은 중국의 세계무역기구 가입 이후 20년이 지나도록 이전 고용 수준을 회복하지 못했습니다. 투자 판단의 언어로 옮기면, 총계가 맞는다는 것과 분포가 견딜 만하다는 것은 서로 다른 명제이고, 정치적 반발은 총계가 아니라 분포에서 나옵니다.

[반론] 같은 전통 안에서도 대런 아제모을루(Daron Acemoglu)는 다른 결론에 이릅니다. 그는 기술이 노동을 보완하는 방향과 단순히 대체하는 방향으로 갈릴 수 있고, 어느 쪽으로 갈지는 자동으로 정해지지 않고 세제와 제도와 기업의 선택에 달려 있다고 봅니다. 대체 일변도의 자동화는 생산성을 크게 높이지 못하면서 노동 몫만 줄이는 결과를 낳을 수 있으며, 그는 이것을 그저 그런 자동화라고 부릅니다. 에릭 브리뇰프슨(Erik Brynjolfsson)은 다른 각도에서, 기술이 도입된 뒤 생산성 통계에 효과가 잡히기까지 조직과 숙련의 재편에 오랜 시간이 걸린다는 점을 지적하며, 그 공백기에는 안드레센이 묘사한 선순환이 보이지 않는다고 설명합니다.

AI 위험 4: AI가 치명적인 불평등을 낳을 것인가

마르크스 이야기가 나온 김에, AI가 일자리를 가져간다는 걱정은 곧바로 다음 질문으로 이어집니다. 좋은 쪽으로든 나쁜 쪽으로든 AI가 모든 일자리를 가져간다고 쳐도, 그러면 AI를 소유한 쪽이 경제적 보상을 전부 거두고 보통 사람들은 아무것도 얻지 못하는 거대하고 치명적인 부의 불평등이 생기는 것 아니냐는 질문입니다.

안드레센은 이것이 마르크스주의의 중심 주장이었다고 지적합니다. 생산수단의 소유자인 부르주아가 실제로 일하는 사람인 프롤레타리아로부터 사회의 모든 부를 필연적으로 빼앗는다는 주장입니다. 현실이 아무리 자주 반증해도 죽지 않는 또 하나의 오류라는 것이 그의 평가이고, 그래도 심장에 말뚝을 박아 두자며 반박에 들어갑니다.

이론의 결함은 이렇습니다. 기술의 소유자 입장에서 그것을 혼자 쥐고 있는 것은 자기 이익에 부합하지 않습니다. 정반대로, 가능한 한 많은 고객에게 파는 것이 자기 이익입니다. 어떤 제품이든 세계에서 가장 큰 시장은 전 세계, 곧 80억 명 전부입니다. 그래서 현실에서는 모든 신기술이, 설령 비싼 값을 치르는 대기업이나 부유한 소비자라는 희박한 공기 속에서 출발하더라도, 가능한 가장 큰 대중 시장에 가 닿을 때까지, 궁극적으로는 지구상 모든 사람의 손에 들어갈 때까지 빠르게 확산됩니다.

고전적인 사례는 일론 머스크(Elon Musk)가 2006년에 테슬라(Tesla)를 두고 내놓은 이른바 비밀 계획입니다. 당연하게도 그는 그 계획을 공개적으로 발표했습니다. 1단계는 비싼 스포츠카를 만드는 것, 2단계는 그 돈으로 살 만한 가격의 차를 만드는 것, 3단계는 다시 그 돈으로 더 저렴한 차를 만드는 것이었습니다. 그리고 그는 정확히 그렇게 했고, 그 결과 세계에서 가장 부유한 사람이 됐습니다.

마지막 대목이 핵심입니다. 머스크가 오늘 부자들에게만 차를 판다면 더 부자가 될까요. 아닙니다. 자기만을 위해 차를 만든다면 더 부자가 될까요. 당연히 아닙니다. 그는 가장 큰 시장인 세계 전체에 팔아야 자기 이윤을 극대화합니다.

요컨대 모두가 그것을 갖게 됩니다. 과거에 자동차만이 아니라 전기와 라디오와 컴퓨터와 인터넷과 휴대전화와 검색엔진에서 본 그대로입니다. 이런 기술을 만드는 쪽은 지구상 모든 사람이 살 수 있을 때까지 가격을 끌어내릴 강한 동기를 갖습니다. 이것이 AI에서 이미 벌어지고 있는 일이고, 최첨단 생성형 AI를 낮은 비용은 물론 무료로도 쓸 수 있는 이유이기도 합니다. 안드레센이 그 예로 든 것은 마이크로소프트의 빙(Bing)과 구글의 바드(Bard)입니다.

그리고 앞으로도 그럴 것입니다. 공급자들이 어리석거나 너그러워서가 아니라 정확히 탐욕스럽기 때문입니다. 시장 규모를 키워야 이윤이 커지기 때문입니다.

그래서 실제로 벌어지는 일은 기술이 부를 집중시키는 것과 정반대입니다. 기술의 개별 고객들이, 궁극적으로는 지구상 모든 사람이 힘을 얻고 창출된 가치의 대부분을 가져갑니다. 과거의 기술들이 그랬듯 AI를 만드는 기업들도, 자유시장에서 작동해야 한다는 전제가 지켜진다면, 이를 위해 맹렬히 경쟁할 것입니다. 마르크스는 그때도 틀렸고 지금도 틀렸습니다.

다만 안드레센은 불평등이 우리 사회의 문제가 아니라는 말은 아니라고 선을 긋습니다. 불평등은 분명 문제이며, 다만 그것을 밀어붙이는 것이 기술이 아니라 그 반대라는 것입니다. 신기술에 가장 저항적이고 AI 같은 신기술의 채택을 막는 정부 개입이 가장 많은 경제 부문들이 문제라는 이야기입니다. 구체적으로는 주택과 교육과 의료입니다.

그래서 AI와 불평등을 둘러싼 진짜 위험은 AI가 불평등을 야기한다는 데 있지 않습니다. 불평등을 줄이는 데 AI를 쓰도록 우리가 허용하지 않으리라는 데 있다는 것이 이 절의 결론입니다.

[관점] 이 논증은 서로 다른 두 가지 평등을 바꿔치기합니다. 하나는 소비자로서 기술에 접근할 수 있는가이고, 다른 하나는 생산자로서 소득을 어디서 얻는가입니다. 검색은 20년 넘게 무료였지만 그 기간 검색 사업의 가치는 소수의 주주에게 집중됐고, 광고 수익에 기대던 언론사의 소득 기반은 무너졌습니다. 가격이 0으로 떨어진다는 사실은 접근의 평등을 말해 줄 뿐 소득 분배에 대해서는 아무것도 말해 주지 않으며, 노동이 소득원에서 빠지는 상황에서 문제가 되는 것은 뒤쪽입니다.

[반론] AI 기업의 수장들 자신이 이 낙관을 공유하지 않습니다. 아모데이는 「Machines of Loving Grace」에서 AI가 사실상 모든 인지 노동을 대체하는 경우 비교우위에 기댄 기존 설명이 무너질 수 있다고 보고, 노동이 소득원에서 빠질 때를 대비한 새 재분배 구조를 공개된 숙제로 남겨 둡니다. 올트먼은 더 명시적이어서, 「Moore’s Law for Everything」에서 AI가 만들어 내는 부에 과세해 보편기본소득(UBI) 형태로 나누자고 제안했고 실제로 기본소득 실험에 자금을 댔습니다. 두 사람 모두 안드레센이 저절로 풀린다고 본 문제를 별도의 정책 설계가 필요한 문제로 다룹니다.

[한국 관점] 불평등의 진짜 원인이 기술이 아니라 기술 도입이 막힌 부문이라는 진단은, 한국에서 교육 대목에 특히 잘 들어맞습니다. 국가데이터처와 교육부가 2026년 3월 발표한 조사에서 2025년 초중고 사교육비 총액은 27조 5,000억 원이었고, 사교육에 참여하는 학생의 1인당 월평균 지출은 60만 4,000원으로 사상 처음 60만 원을 넘었습니다. 같은 조사에서 월평균 소득 800만 원 이상 가구의 학생은 66만 2,000원, 300만 원 미만 가구의 학생은 19만 2,000원을 써 3.4배 차이가 났습니다. 다만 안드레센의 처방을 그대로 옮기기는 어려운데, 한국에서 사교육 지출을 밀어 올리는 것은 공급 측의 비효율이 아니라 정원이 정해진 상위권 대학 입학이라는 지위재(positional goods)를 둘러싼 경쟁이고, 값싼 AI 교사는 그 경쟁의 비용을 낮추기보다 경쟁의 전선을 한 칸 더 밀어 올릴 수 있습니다.

AI 위험 5: AI가 나쁜 사람들이 나쁜 일을 하게 만들 것인가

여기까지 안드레센은 가장 자주 제기되는 다섯 가지 위험 가운데 넷이 실체가 없다고 설명해 왔습니다. AI는 살아나 우리를 죽이지 않고, 사회를 망치지 않으며, 대량 실업을 일으키지 않고, 파멸적인 불평등을 낳지 않는다는 것입니다. 이제 다섯 번째 차례이고, 이것은 그가 실제로 동의하는 위험입니다. AI는 나쁜 사람들이 나쁜 일을 하기 쉽게 만듭니다.

어떤 의미에서 이것은 동어반복이라고 그는 말합니다. 기술은 도구이고, 불과 돌에서 시작된 도구는 음식을 익히고 집을 짓는 좋은 일에도, 사람을 태우고 때려눕히는 나쁜 일에도 쓰입니다. 어떤 기술이든 좋게도 나쁘게도 쓰일 수 있고, 그 점은 공정한 지적입니다. AI가 범죄자와 테러리스트와 적대적인 정부가 나쁜 일을 하기 쉽게 만들리라는 것은 의심의 여지가 없습니다.

그래서 어떤 사람들은 이렇게 제안합니다. 그렇다면 위험을 감수하지 말고 이런 일이 벌어지기 전에 지금 AI를 금지하자는 것입니다. 안드레센의 응답은 AI가 플루토늄처럼 구하기 어려운 난해한 물질이 아니라는 점입니다. 정반대로 세상에서 가장 구하기 쉬운 재료, 곧 수학과 코드입니다.

AI라는 고양이는 이미 자루 밖으로 나왔습니다. 수천 개의 무료 온라인 강의와 책과 논문과 영상으로 AI 만드는 법을 배울 수 있고, 뛰어난 오픈소스 구현체가 날마다 쏟아지고 있습니다. AI는 공기와 같아서 어디에나 있게 될 것입니다. 그것을 멈추는 데 필요한 전체주의적 억압의 수준은 가혹하기 짝이 없을 것입니다. 세계 정부가 모든 컴퓨터를 감시하고 통제하고, 검은 헬기를 탄 군홧발의 요원들이 불법 GPU를 압수하러 다니는 세상이라면, 지켜 낼 사회 자체가 남아 있지 않을 것입니다.

그래서 나쁜 사람이 나쁜 일을 하는 위험에 대처하는 아주 단순한 방법이 두 가지 있고, 우리가 집중해야 할 것은 바로 그것이라고 그는 말합니다.

첫째, 누군가 AI로 저지를 나쁜 일의 대부분은 이미 법전에 범죄로 규정돼 있습니다. 국방부를 해킹하는 것은 범죄입니다. 은행에서 돈을 훔치는 것도 범죄입니다. 생물무기를 만드는 것도 범죄이고, 테러 행위를 저지르는 것도 범죄입니다. 우리는 그저 그 범죄들을 가능할 때 예방하고, 예방하지 못했을 때 기소하는 데 집중하면 됩니다. 새 법은 필요하지도 않은데, 안드레센이 아는 한 지금까지 제기된 AI의 나쁜 용도 가운데 이미 불법이 아닌 것은 하나도 없기 때문입니다. 새로운 나쁜 용도가 확인되면 그 용도를 금지하면 됩니다.

여기서 그는 자신이 슬쩍 끼워 넣은 단어를 짚습니다. AI가 돕는 범죄를 벌어지기 전에 예방하는 데 먼저 집중해야 한다고 말했는데, 그런 예방이라면 결국 AI를 금지한다는 뜻이 아니냐는 반문이 가능하다는 것입니다. 그의 답은 다른 예방 방법이 있다는 것이고, 그것이 AI를 방어 도구로 쓰는 길입니다.

나쁜 목표를 가진 나쁜 사람의 손에서 AI를 위험하게 만드는 바로 그 능력이, 좋은 목표를 가진 좋은 사람의 손에서는 강력한 힘이 됩니다. 특히 나쁜 일이 벌어지지 않도록 막는 것이 직무인 사람들의 손에서 그렇습니다.

예를 들어 AI가 가짜 인물과 가짜 영상을 만들어 내는 것이 걱정이라면, 답은 사람들이 암호 서명을 통해 자기 자신과 진짜 콘텐츠를 입증할 수 있는 새로운 시스템을 만드는 것입니다. 진짜든 가짜든 콘텐츠를 디지털로 만들고 변형하는 일은 AI 이전에도 이미 가능했습니다. 답은 워드프로세서와 포토샵을 금지하는 것이 아니었고, AI를 금지하는 것도 아니며, 문제를 실제로 푸는 시스템을 기술로 구축하는 것입니다.

그래서 둘째, AI를 좋고 정당하고 방어적인 목적에 쓰는 대규모 노력을 벌이자는 것입니다. 사이버 방어에, 생물학적 방어에, 테러리스트 추적에, 그리고 우리 자신과 지역사회와 국가를 안전하게 지키기 위해 하는 모든 일에 AI를 투입하자는 제안입니다.

정부 안팎에는 이미 똑같은 일을 하고 있는 똑똑한 사람들이 많다고 그는 덧붙입니다. 그러나 지금 AI 금지라는 헛된 전망에 고정돼 있는 모든 노력과 두뇌를 나쁜 사람이 나쁜 일을 하지 못하게 AI를 쓰는 쪽으로 돌린다면, AI가 스며든 세상은 지금 우리가 사는 세상보다 훨씬 더 안전해질 것이라고 그는 확신합니다.

해설 안드레센이 암호 서명으로 사람을 입증하자고 말할 때 든 사례는 당시 월드코인(현 World)이 추진하던 인격 증명 방식이었습니다. 홍채를 스캔해 고유한 사람임을 증명하되 신원 자체는 드러내지 않는 구조로, 머스크가 아니라 올트먼이 공동 창업한 프로젝트입니다. 진짜 콘텐츠를 입증하자는 쪽은 출처 추적 기술을 가리키는데, 2021년 어도비와 마이크로소프트 등이 결성한 C2PA가 촬영과 편집 이력을 파일에 서명해 붙이는 표준을 만들어 왔습니다. 두 접근 모두 이 글이 나온 뒤 실제로 전개됐지만, 서명이 없는 콘텐츠를 어떻게 다룰 것인가라는 문제는 지금도 남아 있습니다.

[관점] 기존 형법으로 충분하다는 논증은 범죄의 단가를 고려하지 않습니다. 형법은 행위를 금지할 뿐 행위에 드는 비용을 올려 주지 않고, 억지력은 적발 확률과 처벌 수준의 곱으로 작동하는데 공격 비용이 100분의 1로 떨어지면 같은 억지력으로는 같은 수준의 억제가 유지되지 않습니다. 생물무기 제조가 이미 범죄라는 사실은 참이지만, 그 범죄를 저지르는 데 필요한 전문지식이 희소하다는 것이 실질적인 방벽이었다는 점은 이 논증에 들어오지 않습니다. 금융 규제가 사기를 금지하는 데 그치지 않고 자금세탁 방지 의무처럼 거래 단계의 마찰을 설계하는 이유도 같습니다.

[반론] 공격과 방어가 대칭이라는 전제는 분야마다 다르게 성립합니다. 아모데이는 「The Adolescence of Technology」에서 사이버 영역은 방어가 따라잡을 수 있지만 생물 영역은 그렇지 않다고 구분하는데, 병원체를 설계하는 데 걸리는 시간과 백신을 만들어 배포하는 데 걸리는 시간이 자릿수 단위로 다르기 때문입니다. 앤트로픽(Anthropic)이 생물 관련 능력에 대해 모델 자체에 접근 제한을 거는 조치를 둔 것도 형법이 아니라 배포 단계에서 마찰을 만들려는 선택입니다. 유드코프스키는 더 멀리 나아가, 수학과 코드라서 막을 수 없다는 논증이 대규모 학습에 필요한 칩과 전력과 데이터센터가 실제로는 세기 쉬운 물리적 자원이라는 점을 빠뜨린다고 반박합니다.

AI를 최대한의 힘과 속도로 추구하지 않을 때의 진짜 위험

마지막으로 하나 남은, 그리고 실제로 존재하는 AI 위험이 있습니다. 안드레센이 보기에 아마 그중 가장 무서운 위험입니다. AI는 서방의 상대적으로 자유로운 사회에서만 개발되고 있는 것이 아니라, 중화인민공화국의 중국공산당(CCP)에 의해서도 개발되고 있다는 사실입니다.

중국은 AI에 대해 서방과 완전히 다른 비전을 갖고 있다고 그는 말합니다. 권위주의적 인구 통제의 수단으로 본다는 것이고, 그게 전부라는 것입니다. 숨기지도 않습니다. 중국은 이 점을 아주 분명하게 밝히고 있으며 이미 그 의제를 밀고 나가는 중입니다.

그리고 중국은 자국의 AI 전략을 국경 안에 가둬 둘 생각이 없습니다. 전 세계로 퍼뜨릴 작정입니다. 5G 네트워크를 깔아 주는 모든 곳에, 일대일로 자금을 빌려주는 모든 곳에, 그리고 중앙집중식 지휘통제 AI의 앞단 노릇을 하는 틱톡 같은 친근한 소비자 앱을 제공하는 모든 곳에 그 전략이 함께 들어갑니다.

그래서 안드레센은 이렇게 선언합니다. AI의 가장 큰 단일 위험은 중국이 전 지구적 AI 지배권을 차지하고 미국과 서방은 그러지 못하는 것입니다.

대응으로 그가 제안하는 전략은 단순합니다. 사실 로널드 레이건(Ronald Reagan) 대통령이 소련과의 첫 번째 냉전에서 이길 때 썼던 바로 그 전략입니다. 우리가 이기고 그들이 진다는 것, 원문의 표현으로는 “We win, they lose”입니다.

살인 AI와 해로운 AI와 일자리를 파괴하는 AI와 불평등을 낳는 AI를 둘러싼 근거 없는 공황이 우리를 뒷걸음질 치게 두어서는 안 된다고 그는 말합니다. 미국과 서방은 그 대신 AI에 할 수 있는 한 세게 몸을 실어야 합니다. 전 지구적 AI 기술 우위를 두고 벌어지는 경쟁에서 이겨야 하고, 중국이 이기지 못하게 해야 합니다. 그 과정에서 AI를 우리 경제와 사회에 가능한 한 빠르고 세게 밀어 넣어 경제 생산성과 인간 잠재력에 대한 이득을 극대화해야 합니다. 이것이 진짜 AI 위험들을 상쇄하는 동시에 우리의 삶의 방식이 훨씬 어두운 중국식 비전에 밀려나지 않게 하는 최선의 길이라는 것입니다.

해설 안드레센이 중국은 숨기지도 않는다고 말할 때 가리키는 문서가 있습니다. 중국 국무원이 2017년 7월 발표한 「차세대 인공지능 발전계획」으로, 2030년까지 AI 이론과 기술과 응용에서 세계 선두에 선다는 목표와 함께 사회 관리와 공공 안전 영역에서 AI를 활용한다는 방침을 담고 있습니다. 전 세계 확산 전략으로 그가 지목한 것은 일대일로의 하위 구상인 디지털 실크로드로, 통신망과 감시 시스템과 데이터센터를 하나로 묶어 수출하는 패키지입니다. 틱톡을 중앙집중식 AI의 앞단이라고 부른 대목은 당시 미국에서 제기되던 데이터 접근과 알고리즘 통제에 관한 의혹을 한 문장으로 압축한 표현입니다.

[사후 맥락] 이 글이 나온 뒤 미국이 실제로 택한 수단은 안드레센이 제시한 방향과 결이 달랐습니다. 2022년 10월 시작된 대중 반도체 수출통제는 이후 계속 확대됐고, 바이든 행정부는 2025년 1월 AI 칩과 모델 가중치의 국가별 수출 한도를 정하는 AI 확산 규칙을 내놨다가 트럼프 행정부가 발효를 이틀 앞둔 2025년 5월 13일 이를 철회했습니다. 다만 철회와 동시에 화웨이 어센드 칩 사용에 대한 경고 같은 다른 통제는 오히려 강화됐고, 2025년 8월에는 엔비디아 H20의 중국 수출을 허용하되 매출의 15%를 미국 정부에 내게 하는 방식이 발표됐습니다. 한편 2025년 1월 딥시크가 공개한 모델은 통제받는 환경에서도 최상위권 성능에 근접할 수 있음을 보여 주면서, 수출통제만으로 격차가 유지되는지를 둘러싼 논쟁을 다시 열었습니다.

[한국 관점] 우리가 이기고 그들이 진다는 구도는 한국을 선택의 자리에 세웁니다. 한국은 미국의 대중 수출통제 체제 안에서 삼성전자와 SK하이닉스의 중국 공장 운영을 검증된 최종사용자(VEU) 지위로 유지해 왔고, 그 지위의 존속 여부는 미국의 정책이 바뀔 때마다 반복해서 쟁점이 됐습니다. 동시에 한국은 고대역폭 메모리(HBM) 공급에서 AI 반도체 공급망의 핵심 고리이고, 그만큼 통제를 집행하는 쪽이자 통제를 받는 쪽이라는 이중의 자리에 서 있습니다. 안드레센의 글에서 세계는 서방과 중국 둘로만 나뉘지만, 생산 기지와 수요처가 양쪽에 걸쳐 있는 나라에서는 그 이분법이 그대로 작동하지 않습니다.

무엇을 할 것인가

안드레센이 내놓는 계획은 단순합니다. 다섯 가지 항목으로 되어 있습니다.

  • 대형 AI 기업 — 가능한 한 빠르고 공격적으로 AI를 만들도록 허용하되, 규제 포획은 허용하지 않고, AI 위험에 관한 잘못된 주장을 근거로 시장 경쟁에서 차단된 정부 보호 카르텔을 세우는 것도 허용하지 않습니다. 이렇게 해야 현대 자본주의의 보석이라 할 이 기업들의 놀라운 역량에서 기술적, 사회적 수익을 최대로 끌어낼 수 있습니다.
  • 스타트업 — 이들 역시 가능한 한 빠르고 공격적으로 AI를 만들도록 허용해야 합니다. 대기업에 대한 정부의 보호에 가로막혀서도 안 되고, 정부의 지원을 받아서도 안 되며, 그저 경쟁하도록 허용되면 됩니다. 스타트업이 성공하지 못하더라도 그들이 시장에 존재한다는 사실 자체가 대기업을 계속 최선의 상태로 몰아붙이므로, 경제와 사회는 어느 쪽이든 이득을 봅니다.
  • 오픈소스 AI — 자유롭게 퍼져 나가며 대형 기업과 스타트업 양쪽과 경쟁하도록 허용되어야 하고, 오픈소스에 대한 규제 장벽은 어떤 것도 있어서는 안 됩니다. 오픈소스가 기업을 이기지 못하더라도 그것이 널리 쓰인다는 사실만으로 AI를 배워 기술의 미래에 참여하고 싶은 전 세계 학생들에게 큰 혜택이 되고, 누구든 어떤 처지에 있든 돈이 얼마나 있든 AI의 혜택을 볼 수 있게 보장해 줍니다.
  • 방어적 활용 — 나쁜 사람이 나쁜 일을 하는 위험을 상쇄하기 위해, 정부는 민간과 협력해 잠재적 위험 영역마다 적극적으로 개입해 사회의 방어 역량을 극대화하는 데 AI를 써야 합니다. AI가 만들어 내는 위험에만 머물지 말고 영양실조와 질병과 기후처럼 더 일반적인 문제까지 포함해야 하며, AI는 문제 해결에 쓸 수 있는 대단히 강력한 도구이므로 그렇게 받아들여야 합니다.
  • 중국에 대한 대응 — 중국이 전 지구적 AI 패권을 쥐는 위험을 막기 위해, 민간 부문과 과학계와 정부의 역량을 한데 모아 미국과 서방의 AI를 절대적인 전 지구적 우위로 끌어올려야 하며, 궁극적으로는 중국 안에서까지 그렇게 해야 합니다. 우리가 이기고 그들이 집니다.

그리고 이것이 우리가 AI를 써서 세상을 구하는 방법입니다. 이제 지을 때라는 한 문장으로 그는 이 절을 닫습니다.

해설 마지막 문장은 안드레센이 2020년 4월에 쓴 글의 제목에서 가져온 것으로, 그 뒤 그의 글을 관통하는 구호가 됐습니다. 코로나19 초기에 미국이 마스크와 검사 키트조차 제때 만들지 못한 상황을 두고, 문제는 돈이나 아이디어가 아니라 짓고자 하는 의지의 부재라고 진단한 글입니다. 이 절의 제목인 무엇을 할 것인가는 레닌이 1902년에 쓴 같은 제목의 소책자에서 온 표현으로, 앞 절들에서 마르크스를 반복해 공격한 글이 마르크스주의 전통의 가장 유명한 조직론 제목을 빌려 쓰는 구성입니다. 안드레센은 이 구도를 2023년 10월 「The Techno-Optimist Manifesto」에서 선언문 형식으로 확장합니다.

[관점] 다섯 항목을 나란히 놓으면 네 번째와 다섯 번째가 앞의 셋과 충돌합니다. 앞의 셋은 정부가 손을 떼라는 요구이고, 뒤의 둘은 정부가 민간과 손잡고 전 지구적 우위를 조직하라는 요구입니다. 한 나라가 다른 나라에 대한 기술 우위를 국가 목표로 삼는 순간 그 수단은 산업정책과 조달과 수출통제가 되고, 이것들은 모두 규제이자 시장 개입입니다. 실제로 이 글 이후 3년간 미국의 AI 정책에서 가장 큰 영향을 미친 수단은 보조금과 수출통제였고, 두 가지 모두 안드레센이 앞 절들에서 경계한 종류의 국가 개입입니다.

[이해관계] 다섯 항목은 안드레센호로위츠의 사업 구조와 거의 그대로 겹칩니다. 대기업의 규제 포획을 막고 스타트업이 동일 조건에서 경쟁하게 하라는 요구는 초기 단계 AI 기업에 투자하는 벤처캐피털의 포트폴리오 가치를 직접 좌우하고, 오픈소스에 어떤 규제 장벽도 두지 말라는 요구는 가중치를 공개하는 모델 위에서 사업을 세우는 투자처들의 전제 조건입니다. a16z는 이 글이 나온 뒤 미국의 AI 입법 논의에 적극적으로 개입해, 2024년 캘리포니아 SB 1047에 공개적으로 반대한 쪽에 섰고 이후 정치자금 활동에도 참여했습니다. 발언의 내용과 발언자의 이익이 어긋난다는 뜻은 아니지만, 이 다섯 항목이 중립적인 공공정책 제안이 아니라 특정 투자 전략의 전제 조건이기도 하다는 점은 함께 읽을 필요가 있습니다.

전설과 영웅들

안드레센은 두 개의 단순한 진술로 글을 닫습니다.

AI 개발은 1940년대에, 컴퓨터의 발명과 동시에 시작됐습니다. 오늘날 우리가 쓰는 AI의 구조인 신경망에 관한 최초의 과학 논문은 1943년에 나왔습니다. 지난 80년 동안 여러 세대의 AI 과학자들이 태어나고 학교를 다니고 일했으며, 많은 경우 지금 우리가 거두고 있는 결실을 보지 못한 채 세상을 떠났습니다. 그들은 한 사람도 빠짐없이 전설입니다.

오늘날에는 점점 불어나는 엔지니어 군단이 AI를 현실로 만들기 위해 일하고 있습니다. 그중 다수는 젊고, 조부모나 증조부모가 AI의 밑바탕이 된 아이디어를 만드는 데 관여했을지도 모를 사람들입니다. 그들은 자신을 무모한 악당으로 그리려 드는 공포 조장과 파멸주의의 벽을 마주한 채 일하고 있습니다. 안드레센은 그들이 무모하지도 않고 악당도 아니라고 믿는다고 말합니다. 그들은 한 사람도 빠짐없이 영웅입니다.

그리고 마지막 문장에서 그는 자신의 위치를 분명히 밝힙니다. 자기 회사와 자신은 가능한 한 많은 엔지니어를 후원하게 되어 더없이 기쁘고, 그들과 그들의 일 곁에 100% 함께 서겠다는 것입니다.

해설 1943년의 그 논문은 워런 매컬러(Warren McCulloch)와 월터 피츠(Walter Pitts)가 쓴 「A Logical Calculus of the Ideas Immanent in Nervous Activity」로, 신경세포를 켜짐과 꺼짐의 논리 소자로 모형화해 신경망 개념의 출발점이 됐습니다. 안드레센이 결실을 보지 못하고 떠난 세대라고 말할 때 가리키는 것은 두 차례의 AI 겨울입니다. 1970년대와, 1980년대 후반부터 1990년대까지, 부풀었던 기대가 꺾이면서 연구비가 끊기고 분야 전체가 위축된 시기가 있었습니다. 지금의 성과를 떠받치는 역전파와 합성곱 신경망 같은 기법 상당수가 바로 그 겨울 동안 소수의 연구자들에 의해 다듬어졌습니다.

[관점] 전설과 영웅이라는 마무리는 논증이 아니라 정체성에 대한 호소입니다. 그리고 80년의 역사를 끌어오는 순간 글의 앞부분과 긴장이 생깁니다. AI가 통제를 벗어날 가능성을 경고한 사람들 가운데 상당수가 바깥의 활동가가 아니라 바로 그 과학자 공동체 안에 있었기 때문입니다. 사이버네틱스를 세운 위너가 그랬고, 1951년 강연에서 기계가 결국 통제권을 쥐게 되리라고 말한 앨런 튜링(Alan Turing)이 그랬습니다.

[사후 맥락] 이 글은 발표 이후 기술낙관 진영의 기준점이 됐습니다. 안드레센은 넉 달 뒤인 2023년 10월 「The Techno-Optimist Manifesto」를 내놓아 같은 주장을 선언문 형식으로 확장했고, 두 글은 이후 AI 규제 논쟁에서 가속을 지지하는 입장을 대표하는 문헌으로 나란히 인용됐습니다. 그 사이 산업의 지형은 글의 전제와 다르게 움직이기도 했는데, 2023년에 그가 무료 제공의 사례로 든 구글 바드는 2024년 제미나이(Gemini)로 이름이 바뀌었고 유료 구독 모델이 업계 표준으로 자리 잡았습니다. 오픈소스 쪽에서는 메타의 라마(Llama) 계열과 딥시크가 가중치 공개 모델의 경쟁력을 보여 주며 그의 세 번째 항목에 힘을 실었습니다.

원문: Marc Andreessen, Why AI Will Save the World (Jun 2023) 전문은 원문에서 확인하실 수 있습니다.

참고할만한 글

Similar Posts