《더 커밍 웨이브》는 어떤 책인가? ‘기술, 권력 그리고 21세기 최고의 딜레마’에 대한 이토록 경이로운 통찰! 2023년 9월 미국과 영국에서 출간된 후 전 세계적으로 화제를 몰고 온 《더 커밍 웨이브》(The Coming Wave)가 마침내 한국에 출간됐다. 출간 전부터 최고의 인공 지능(AI) 관련 서적으로 거론되었던 이 책은 발간 이후 곧바로 미국ㆍ영국 아마존과 선데이 타임스 베스트셀러 1위(사회ㆍ기술 분야)에 랭크, 그 화제성을 입증했으며 파이낸셜 타임스, 선데이 타임스, 이코노미스트, 블룸버그, CEO 매거진 등 각종 미디어에서 ‘올해 최고의 책’으로 선정되었다. 이 책의 저자는 알파고 개발의 주역이자 세계 최고의 AI 기업 딥마인드와 인플렉션 AI의 창립자 무스타파 술레이만으로 현재 진행 중인 AI 혁명에 가장 가까이 있는 인물로 평가받고 있다. 그는 딥마인드를 10년 이상 이끌면서 AI 리서치와 응용 프로그램에 있어 여러 지각변동을 일으켰으며 딥 러닝이라는 혁신의 주역이었다. 알파고 개발 이후 구글에서 AI 제품 관리 부서의 부사장으로 일하면서 그의 팀과 함께 세계에서 가장 강력한 대화용 AI 시스템인 람다(LaMDA)를 개발하기도 했다. 《더 커밍 웨이브》는 이처럼 인공 지능 개발의 최전선에서 기술 혁명의 새로운 역사를 쓰고 있는 저자가 직접 AI 산업의 미래를 전망하고 이로 인해 무엇이, 어떻게 바뀔 것인지 예측한 책이다. 《더 커밍 웨이브》에 대한 평가과 영향력은 시간이 지날수록 뜨거워지고 있다. “지금 우리에게 가장 중요한 책, 놀랍도록 매혹적이다”(유발 하라리), “전대미문의 시기를 항해하기 위한 최고의 안내서”(빌 게이츠), “미래에서 보내온 강력한 경고, 단 한 페이지도 외면할 수 없다.”(누리엘 루비니), “머지않아 몰아칠 파도에 대한 선명한 예보, 경외심마저 불러일으킨다”(알랭 드 보통) 등 분야를 가리지 않고 전 세계의 석학들이 책에 찬사를 던지고 있음이 이를 증명한다. AI 혁명의 최전선에서 기술 혁명의 역사를 새로 쓰고 있는 저자의 충격적 미래 전망 “폭발적으로 발전하는 AI와 신기술은 인류를 어디로 이끌고 있는가?” “우리는 이 놀라운 기술을 과연 어디까지 통제하고 억제할 수 있는가?” 저자 무스타파 술레이만은 이 책을 통해 AI의 발전이 가까운 미래, 인류에 대한 새로운 정의를 내릴 것이라고 말한다. 그는 불과 바퀴, 전기의 발명이 인류 역사의 궤적을 완전히 바꾸었듯이 AI가 그러한 역할을 하게 되고, 이로 인해 우리는 인류라는 종의 역사에서 가장 중요한 문턱에 서게 될 것이라고 주장한다. 즉 새로운 물결(wave)을 맞이하게 된다는 것이다. 그는 다가오는 물결의 고유한 특징으로 비대칭성, 초진화성, 만능성, 자율성을 들면서 특히 만능성, 즉 옴니유즈(omni-use technology)라 명명한 어디에나 쓸 수 있는 범용성을 강조한다. AI는 ‘새로운 전기’이며 우리의 일상생활 깊숙이 침투해 로봇, 생물학, 화학 등 다양한 분야와 결합해 해당 산업의 발전을 이끌 것이라고 예측한다. 또한 양자 컴퓨팅과 같은 분야가 AI의 발전을 돕고 또 AI가 이들을 도와 한 단계 도약하는 선순환 구조에 이를 것이라고 전망하고 있다. 이로 인해 AI와 관련 산업은 급속도로, 그리고 광범위하에 발전하고 기존에 존재하지 않던 새로운 생물을 만들거나 관련 기능을 변형하는 합성 생물학이 함께 발전하면서 인간에 대한 정의를 새롭게 내리게 된다는 것이다. 피할 수 없는 미래, 억제가 가능해야 한다 저자가 우려하는 부분은 이러한 미래, 피할 수 없는 변화를 우리가 어떻게 통제하고 억제할 수 있는가이다. 거대 기술 기업들은 물론 전 세계의 국가는 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설 수밖에 없다. 문제는 핵 무기와 달리 AI 기술은 범용적이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으로는 규제에 실패할 것이라는 데 있다. 저자는 과거 신기술에 반대했던 러다이트 운동의 실패를 예로 들면서 AI 기술도 이와 같을 것이라 말하고 있다. 그는 AI 기술을 정부와 사회가 적절하게 관리하기 위해서는 반드시 ‘억제(containment)’가 가능해야 한다고 주장한다. AI를 일일이 규제하기보다 AI를 적절하게 견제할 수 있는 각종 정책 즉 거버넌스, 지배구조, 그리고 억제할 수 있는 기술들을 다각도로 모색하고 갖추자는 것이다. 이 책에는 AI가 지금까지 알고 있는 인류라는 종의 미래를 바꿀 수도 있다는 우려와 함께 적절하게 통제하고 억제할 수 있다면 AI가 인류의 축복이 될 수 있을 것이라는 기대가 공존한다. 무엇보다 이 책이 지니고 있는 진정한 가치는 예측 가능한 미래와 그에 대한 적절히 대응할 수 있는 대안의 제시에 있다. 다가오는 거대한 물결과 이로 인해 뒤바뀔 인류의 미래, 우리는 어떤 선택을 할 것인가? 《더 커밍 웨이브》에서 그 해답을 함께 찾아본다. 이 책의 주요 내용 이 책의 1부에서는 수천 년에 걸쳐 발전해 온 기술의 오랜 역사와 기술 변화의 물결이 어떻게 확산되는지 살펴본다. 무엇이 기술의 원동력일까? 무엇이 기술을 보편적인 것으로 만들까? 더불어 우리는 새로운 기술을 의식적으로 거부한 사회가 있었는지도 살펴본다. 2부에서는 다가오는 물결에 대해 자세히 살펴본다. 그 물결의 중심에는 엄청난 잠재력과 힘, 위험성을 지닌 두 가지 범용 기술, 즉 인공 지능과 합성 생물학이 자리하고 있다. 두 기술이 미칠 영향은 오래전부터 예견돼 왔지만, 그 파급력은 여전히 과소평가되는 경우가 많다. 이 두 기술을 중심으로 로봇 공학과 양자 컴퓨팅과 같은 여러 관련 기술이 복잡하고 격동적인 방식으로 발전할 것이다. 여기에서는 관련 기술들이 어떻게 등장했고 어떠한 기능을 수행할 수 있는지 살펴볼 뿐만 아니라 그 기술들을 억제하기가 왜 그렇게 어려운지 그 이유에 대해서도 함께 살펴본다. 3부에서는 억제되지 않은 기술의 물결이 불러올 거대한 권력 재분배의 정치적 함의를 살펴본다. 현재 정치 질서의 근간이자 기술 억제의 가장 중요한 주체는 바로 국민 국가다. 이미 위기에 흔들리고 있는 국가는 새로운 형태의 폭력, 잘못된 정보의 홍수, 사라져 가는 일자리, 치명적인 사고 등 새로운 물결로 증폭된 일련의 충격으로 더 약화될 것이다. 더 나아가 그 물결은 중앙 집중화와 탈중앙화를 동시에 이끄는 일련의 지각변동을 일으킬 것이다. 이는 거대한 기업들을 새로 만들어 내고 권위주의를 강화하는 한편, 전통적인 사회 구조 밖에서 살아가는 집단과 움직임에도 힘을 실어 줄 것이다. 국민 국가의 정교한 협상은 우리가 그와 같은 제도를 가장 필요로 할 때 엄청난 압박을 받게 될 것이다. 결국 이러한 방식으로 우리는 딜레마에 빠지게 된다. 4부에서는 우리가 할 수 있는 일에 대한 논의로 넘어간다. 기술을 억제하고 딜레마에서 벗어날 수 있는 가능성이 조금이라도 있을까? 있다면 어떤 방법이 있을까? 이 섹션에서는 코드와 DNA 수준에서 국제 조약 수준까지 10단계로 나눠 엄격하고 중첩된 제약 조건, 즉 억제를 위한 개략적인 계획을 수립하는 방법을 간략하게 설명한다. ** 추천사 전 세계 석학들의 찬사, 그야말로 최고의 책이다! 전대미문의 시기를 항해하기 위한 최고의 안내서이다. - 빌 게이츠 ㆍ 마이크로소프트 창업자 《더 커밍 웨이브》는 매혹적이고도 중요한 책이다. 인공 지능과 생명 공학이 인류에게 가하는 실존적인 위험을 탐구하고 우리가 어떻게 그 위협을 억제할 수 있는지에 대한 실질적인 해결책을 제공한다. 다가오는 기술의 물결은 인류에게 신과 같은 창조의 힘을 약속하지만, 그것을 현명하게 관리하지 못한다면 우리를 파멸로 이끌 수도 있다. - 유발 노아 하라리 ㆍ 베스트셀러 《사피엔스》 저자 이것은 미래에서 전하는 강력한 경고에 다름 아니다. 결코 무시할 수 없는 최고 전문가의 눈으로 AI의 진화가 세계 경제와 정치에 어떤 영향을 미칠 것인지 담대하게 소개하고 있다. 업계 최고 전문가의 설득력 있는 주장을 담고 있어 여러분이 미래를 바라보는 관점을 바꾸고 현재를 새롭게 이해할 수 있도록 도울 것이다. - 누리엘 루비니 ㆍ 뉴욕 대학교 명예 교수 이 책이 도착하자마자 일기 쓰기를 제쳐 두고 바로 읽기 시작했다. 20 년 후에는 이 책이 보수적인 미래 비전처럼 보일 수도 있겠지만 현재로서는 책을 읽다가 잠시 멈춰 생각에 잠기게 된다. ‘이게 정말 사실일까?’ 이 책의 탁월함은 이 모든 것이 현실이 될 수 있으며, 그 이유와 과정을 차분하고 부드러운 어조로 설명하는 데 있다. 독자들은 무서운 순간들과 마주하고 충격에 휩싸일 것이다. 익숙한 것 대부분이 곧 바뀔 것이라는 사실을 깨닫게 되는 순간 두려움을 느끼는 것은 당연하다. 하지만 결국에는 현재를 살아가고 있다는 사실에 활력과 감격을 느낀다. 변화의 물결이 곧 닥칠 것이라는 것이 미래에 대한 예보다. - 알랭 드 보통 ㆍ 철학자, 베스트셀러 작가 최근 몇 년 동안 급속한 과학 발전과 관련된 위협과 기회들을 신중하게 설명하는 이 책은 인류를 향한 놀랍도록 생생한 경고문이다. 흥미로운 사실과 설득력 있는 주장 그리고 저자 특유의 관찰들로 가득 차 있다. 모두가 읽어야 할 필독서이다. - 대니엘 카너먼 ㆍ 노벨상 수상자, 베스트셀러 《생각에 관한 생각》 저자 기술 전문가, 기업가, 선구자인 무스타파 술레이만의 통찰은 시사하는 바가 매우 크다. 핵심 주제에 대한 깊이 있는 연구와 분석이 담긴 이 책은 우리 시대의 가장 중요한 과제에 대한 흥미로운 통찰을 제공한다. - 앨 고어 ㆍ 전 미국 부통령 현재 진행 중인 AI 혁명에 무스타파 술레이만보다 더 가까이 다가가 있는 사람은 없다. 지금 일어나고 있는 엄청난 기술 변화의 위험과 보상을 설명함에 있어 그보다 더 적합한 사람 역시 없다. 이 책은 인류 역사상 전례가 없는 지금 이 순간에 대해 탁월하게 설명하고 안내하는 필독서다. - 에릭 슈밋 ㆍ 전 구글 CEO 첨단 기술의 진정한 인사이더 중 한 명인 무스타파 술레이만은 이 대담한 책에서 우리 시대의 가장 중요한 역설, 즉 통제할 수 없는 기술을 통제해야 한다는 문제를 다룬다. 그의 설명에 따르면, 생성형 AI, 합성 생물학, 로봇 공학, 기타 혁신 기술이 빠르게 발전하면서 확산되고 있다. 이러한 혁신은 상당한 이점을 가져다주지만, 동시에 현실적이고 점점 더 커질 수 있는 위험을 초래하기도 한다. 술레이만은 이러한 위험은 관리하기도 힘들뿐더러 쉽게 해결할 수 있는 간단한 해결책 같은 것은 없다고 강조한다. 이 책은 솔직하고 열정적인 태도로 금세기에 우리 인류가 직면하게 될 가장 큰 도전 중 하나를 두려움 없이 직시하고 있다. 술레이만 덕분에 우리는 현재 상황과 우리가 선택할 수 있는 옵션을 이해하게 됐다. 이제 행동을 취하는 것은 우리의 책임이다. - 앤드루 맥아피 ㆍ MIT 슬론 경영 대학원 수석 연구원, 베스트셀러 《The Geek Way》 저자 다가오는 인공 지능과 합성 생물학의 물결은 다음 10년을 인류 역사상 최고의 시간으로 만들 것이다. 만약 그게 아니라면 최악의 시대가 될 것이다. 저자만큼 앞으로 닥칠 도전들을 잘 인식하고 설명할 수 있는 사람은 없다. 우리의 생각을 끊임없이 자극하는 이 책은 새로운 기술들의 놀라운 힘을 이해하는 사람이라면 누구나 반드시 읽어야 할 필독서이다. - 에릭 브린욜프슨 ㆍ 스탠퍼드 인간중심 인공 지능 연구소 교수, 베스트셀러 《제2의 기계 시대》 저자 AI 혁명은 현재 진행 중이지만 우리는 이를 얼마나 잘 이해하고 있을 까? 《더 커밍 웨이브》는 급격한 기술 변화의 역사와 우리 앞에 놓인 심각한 정치적 도전에 대한 박학다식하고 명쾌한 가이드를 제공한다. - 앤 애플바움 ㆍ 역사학자, 퓰리처상 수상자 《더 커밍 웨이브》는 인공 지능, 합성 생물학, 기타 첨단 기술이 가져올 예상치 못한 재앙적 결과에 대해 구체적이고 실용적이고 명료한 방식으로 설명한다. 이 의미 있는 책은 인간이 기술 혁신에 지배당하지 않고 어떻게 기술 혁신을 주도할 수 있는지에 대한 생생하고 설득력 있는 로드맵을 제시한다. - 마사 미노우 ㆍ 하버드 대학교 교수, 전 하버드 법학 전문 대학원 학장 무스타파 술레이만은 이 책에서 현재의 급속한 기술 혁명이 독보적인 파괴력을 발휘할 것이라는 설득력 있는 논거를 제시한다. 이 책을 통해 이러한 기술의 속도와 규모, 그리고 기술이 우리 사회 전반에 걸쳐 어떻게 확산될 것인지 이해할 수 있다. 더불어 우리 세계를 조직하는 제도의 구조를 어떻게 파괴할 것인지도 파악할 수 있다. - 이안 브레머 ㆍ 유라시아 그룹 창립자, 베스트셀러 《The Power of Crisis》 저자 이 책은 영감과 경각심을 동시에 불러일으킨다. 이 시대의 기술 혁명에 대한 이해가 부족한 사람들에게는 중요한 교양서가 되고, 이미 이해하고 있는 사람들에게는 정면으로 도전하는 책이다. 우리 모두의 미래가 이 책에 담겨 있으니 반드시 읽고 행동에 옮겨야 한다. - 데이비드 밀리밴드 ㆍ 전 영국 외무부 장관 이 책은 AI의 위험과 경이로움에 대한 냉정한 평가를 제시한다. 동시에 이 혁명적 도전이 초래할 수 있는 가장 치명적인 결과를 억제하기 위해 정부가 지금 당장 취해야 할 조치가 무엇인지, 그에 대한 의제를 제안한다. - 그레이엄 앨리슨 ㆍ 하버드 대학교 교수, 베스트셀러 《예정된 전쟁》 저자 급격한 기술의 빠른 발전 속도는 그 잠재력과 위험성으로 우리를 압도하고 있다. 무스타파 술레이만은 산업 발전의 역사를 추적하면서 최근 기술 발전 속도의 급격한 증가에 대해 차분하고 실용적이며 깊이 있는 윤리적 관점으로 설명하고 있다. 그의 개인적인 여정과 경험은 《더 커밍 웨이브》를 더욱 돋보이게 하며, 매일 쏟아지는 기술 뉴스의 홍수에서 한 발짝 물러나 있고 싶은 모든 이에게 흥미로운 읽을거리를 선사한다. - 안젤라 케인 ㆍ 전 유엔 사무총장, 군축 문제 고위 대표 최고의 전문가가 바라본 현재의 AI 발전과 미래를 놀랍도록 설득력 있게 풀어냈다. 세상을 변화시키는 이 기술을 사회가 어떻게 하면 안전하게 활용할 수 있는지 알고 싶다면 꼭 이 책을 읽어 보기 바란다. - 브루스 슈나이어 ㆍ 사이버 보안 전문가, 베스트셀러 《Hacker’s Mind》 저자 세계가 직면한 가장 큰 도전 과제 중 하나는 AI와 생명 공학의 이점을 활용하는 동시에 치명적 위험을 피할 수 있는 지배 구조의 고안이다. 이 책은 이 두 기술이 제기하는 ‘억제 과제’에 대해 심도 있게 설명한다. 세심한 연구와 독창적인 통찰로 가득 찬 《더 커밍 웨이브》는 정책 입안자와 보안 전문가를 위한 건설적인 조언을 담고 있다. - 제이슨 매시니 ㆍ RAND CEO, 전 국가정보국 부국장, 전 미국 정보고등연구계획국 국장 지금 이 순간에도 활발하게 전개되고 있는 혁신적 기술의 의미, 잠재력, 위협을 이해하고 싶다면 인공 지능의 선구자 중 한 명인 무스타파 술레이만의 깊이 있고 놀라운 이 책을 반드시 읽어야 할 것이다. - 스티븐 프라이 ㆍ 배우, 방송, 베스트셀러 작가 《더 커밍 웨이브》는 전례 없는 기술 혁명의 최전선에서 바라본 매우 명료하고 역동적이며 설득력 있는 책이다. 개인적인 이야기와 기술적인 이야기를 매끄럽게 잘 엮어 낸 이 책은 엄청나게 강력한 기술을 관리하고 개선하는 것이 얼마나 중요하고 어려운 것인지 잘 보여준다. - 제프 멀건 ㆍ 유니버시티 칼리지 런던 교수 AI가 인류의 미래에 미칠 영향에 대한 최고의 분석이다. 무스타파 술레이만은 현시대의 주요 AI 기업 중 두 곳의 공동 창업자로서 두각을 나타내고 있는 독보적인 존재다. 그는 탁월한 능력을 갖춘 기업가이자 깊이 있는 사상가이며, 앞으로 우리 세상을 변화시킬 기술의 물결에 대해 가장 중요한 목소리를 내는 사람 중 한 명이다. - 리드 호프만 ㆍ 링크드인 및 인플렉션 공동 창립자 기술이 사회를 빠르게 변화시키고 있다. 그런 의미에서 이렇게 솔직하고 엄격한 분석이 담긴 책의 발간은 그 어느 때보다도 의미가 크다. 이 책은 도구의 시작부터 현재 급격하게 증가하고 있는 AI 역량과 연구의 핵심까지 파노라마처럼 펼쳐지는 연구 조사 결과를 설득력 있게 제시하면서 명확한 행동을 촉구한다. 모든 사람이 반드시 읽어야 할 책이다. - 페이페이 리 ㆍ 스탠퍼드 대학교 컴퓨터 과학 교수, 인간중심 인공 지능 연구소 공동 책임자 《더 커밍 웨이브》는 첨단 기술이 권력, 부, 전쟁, 업무, 심지어 인간관계까지 사회의 모든 측면을 변화시키고 있다는 사실을 놀랍고 설득력 있게 전달한다. 새로운 기술이 우리를 통제하기 전에 우리가 이 기술을 통제할 수 있을까? 인공 지능 분야의 세계적 리더이며 정부, 대기업, 시민 사회가 공익을 위해 행동해야 한다고 오랫동안 주장해 온 무스타파 술레이만은 이 중요한 질문에 답할 수 있는 완벽한 길잡이 역할을 한다. - 제프리 삭스 ㆍ 컬럼비아 대학교 교수, 유엔 지속 가능한 발전 해법 네트워크 회장 우리 시대의 가장 중요한 문제를 예리하고 냉정한 시각으로 정리한 《더 커밍 웨이브》는 기술 실무자들이 반드시 읽어야 할 필독서다. 또한 이 책은 우리 모두가 이 중대한 담론에 적극적으로 참여해 행동할 것을 강력하게 촉구한다. - 루 치 ㆍ 미라클플러스 CEO, 전 바이두 COO, 전 마이크로소프트 빙 EVP 술레이만은 AI와 합성 생물학의 무분별한 발전이 초래할 수 있는 지정 학적 혼란, 전쟁, 국민 국가의 쇠퇴 등 심각한 파급 효과에 대한 메시지를 가장 중요한 시기에 정확하게 전달할 수 있는 독특한 위치에 있다. 다행히도 그는 새로운 기술이 인류의 복지에 기여하기 위해 반드시 달성해야 할 과제를 깊이 있게 다뤘다. 그는 일련의 점진적 노력을 제안하며 이를 종합적으로 수행하면 이러한 기술이 진화하고 확산되는 환경을 변화시켜 보다 더 밝은 미래를 보장할 수 있다고 말한다. - 메건 오설리번 ㆍ 하버드 케네디 정부 대학원 벨퍼 과학 및 국제 문제 센터 소장 너무 늦기 전에 우리 모두가 응답해야 할 대담한 경고다. 무스타파 술레이만은 무분별한 속도로 발전하는 기술이 가져온 위험과 인류가 직면한 도전에 대해 명쾌하고 정확하게 설명한다. 반드시 읽어야 할 책이다. - 트리스탄 해리스 ㆍ 인도적 기술 센터 공동 설립자 겸 전무 이사 우리 시대의 가장 중요한 문제, 즉 우리보다 훨씬 더 강력한 주체에 대한 통제력을 어떻게 유지할 것인지 그 방법에 대해 실용적이고도 낙관적인 로드맵을 제시한다. - 스튜어트 러셀 ㆍ 캘리포니아 대학교 버클리 캠퍼스 컴퓨터 과학 교수 《더 커밍 웨이브》는 인공 지능과 합성 생물학이 제기하는 전례 없는 거버넌스와 국가 안보 문제에 대한 실용적이고 깊이 있는 정보를 제공하며 쉽게 이해할 수 있도록 안내한다. 술레이만의 놀라우면서도 경각심을 불러일으키는 이 책은 통제 불가능해 보이는 기술을 통제하기 위해 우리가 무엇을 해야 하는지 알려 준다. - 잭 골드스미스 ㆍ 하버드 대학교 법학 교수 탁월하고 매력적이며, 복잡하면서도 명료하고, 긴박하면서도 차분한 《더 커밍 웨이브》는 우리 세기의 가장 중요한 질문, 즉 AI, 합성 생물학 등 앞으로 급속도로 진행될 기술 혁명이 우리가 원하는 세상을 만들 수 있도록 어떻게 보장할 것인지 이해하고 대처하도록 안내한다. 쉽지 않은 일이지만 술레이만은 강력한 토대를 마련해 우리에게 제시한다. 미래에 관심이 있는 사람이라면 누구나 이 책을 읽어야 한다. - 에릭 랜더 ㆍ MIT와 하버드의 브로드 연구소 창립 이사, 전 백악관 과학 자문관 실용주의와 겸손함이 조화를 이루고 있는 이 책은 기술이 우리에게 급격한 복지 향상을 가져다주었지만, 그 속도가 제도적 적응보다 빠르다는 점을 강조하며 명확한 이분법이나 단순한 해결책은 존재하지 않는다는 사실을 일깨워 준다. AI와 합성 생물학의 발전은 공상 과학 소설을 뛰어넘는 능력을 가능하게 했으며, 이로 인한 힘의 확산은 우리가 구축한 모든 것을 위협하고 있다. 우리는 재앙을 불러올 수 있는 스킬라(Scylla)와 전방위적 감시의 카리브디스(Charybdis) 사이에서 균형을 잡아야 한다. 이 책의 페이지를 넘길 때마다 그 가능성이 높아진다. - 케빈 에스벨트 ㆍ 생물학자, MIT 미디어 랩 부교수

책에 쏟아진 찬사 핵심 용어 해설 프롤로그 | 인류의 운명을 결정하는 새로운 물결 1장 억제가 불가능하다 물결 딜레마 함정 논의할 것들 1부 호모 테크놀로지쿠스 2장 무한한 확산 기관 범용의 물결: 역사의 리듬 확산이 기본이다 진공관에서 나노미터까지: 초고속 확산 3장 기술 억제 문제 억제가 기본이다 안 된다고 거부한 적이 있는가? 핵은 예외일까? 기술적 동물 2부 새로운 물결 4장 지능의 기술 알파고와 미래의 시작 원자에서 비트와 유전자까지 캄브리아기 대폭발 전문 용어를 넘어서 인공 지능의 봄: 딥 러닝의 발달 세상을 잠식하는 AI 모든 것을 자동 완성하기: 대규모 언어 모델의 부상 두뇌 규모의 모델 더 적은 자원으로 더 큰 성과를 내다 지각 능력: 기계가 말을 하다 초지능을 넘어서 역량: 현대판 튜링 테스트 5장 생명의 기술 유전자 가위: 크리스퍼 혁명 DNA 프린터: 현실이 된 합성 생물학 생물학적 창의성이 발휘되다 합성 생명체 시대의 AI 6장 더 폭넓은 물결 로봇 공학의 시대 양자 지상주의 차세대 에너지 전환 물결 너머의 물결 7장 다가오는 물결의 네 가지 특징 비대칭: 힘의 대이동 초진화: 끝없는 가속화 옴니유즈: 많으면 많을수록 좋다 자율성과 그 너머: 인간은 주도권을 잡을 수 있을까? 고릴라 문제 8장 막을 수 없는 인센티브 국가적 자부심, 전략적 필요성 군비 경쟁 자유를 갈망하는 지식 100조 달러의 기회 글로벌 도전 과제 자아 3부 실패한 국가 9장 대합의 코펜하겐의 교훈: 정치는 개인적인 것이다 취약한 국가 기술은 정치적이다: 국가를 향한 물결의 도전 10장 취약성 증폭기 국가 비상사태 2.0: 통제되지 않는 비대칭성 급감하는 권력 비용 군사용 로봇: 공격의 우위 허위 정보 기계 국가가 후원하는 정보 공격 보안이 취약한 실험실과 의도치 않은 불안정성 자동화 논쟁 11장 국가의 미래 집중: 지능의 복리 수익 감시: 권위주의를 위한 로켓 연료 파편화: 국민에게 권력을 다가오는 모순의 물결 12장 딜레마 재앙: 궁극의 실패 재앙의 종류 컬트, 광신도, 자살 충동 상태 디스토피아적 전환 정체: 또 다른 형태의 재앙 다음 단계는? 4부 물결을 헤쳐 나가다 13장 억제가 가능해야 한다 규제만으로는 충분치 않다 억제를 재검토하다: 새로운 대합의 물결이 몰려오기 전 14장 억제를 위한 10가지 단계 1. 안전: 기술 안전을 위한 아폴로 계획 2. 감사: 지식은 힘이고, 힘은 통제다 3. 초크 포인트: 시간 벌기 4. 제작자: 비평가가 참여해야 한다 5. 기업: 이익 + 목적 6. 정부: 생존, 개혁, 규제 7. 동맹: 조약의 시대 8. 문화: 실패를 존중하고 포용하기 9. 운동: 민중의 힘 10. 좁은 길: 앞으로 나아가는 유일한 길 에필로그 | 인류세 이후의 삶 감사의 말 미주

수 세기에 걸쳐 기술은 수십억 명의 삶을 극적으로 향상시켰다. 우리는 현대 의학 덕분에 비교할 수 없을 정도로 건강해졌고, 전 세계 사람 대다수가 풍족한 식생활을 누리고 있으며, 사람들은 그 어느 때보다 더 많은 교육을 받고 있고 더 평화롭게 지낼 뿐 아니라 물질적으로도 더욱 편안하게 살고 있다. 이는 인류의 위대한 동력인 과학과 기술의 창조가 일조해 만들어 낸 결정적인 성과다. 그러한 이유로 나 역시 도구를 안전하게 개발하는 데 내 인생을 바쳐 왔다. 그러나 이처럼 특별한 역사를 통해 얻은 우리의 낙관적 태도는 냉정한 현실에 근거해야 한다. 실패를 방지하려면 무엇이 잘못될 수 있는지 이해하고 궁극적으로는 그에 맞설 수 있어야 한다. 우리는 그 결과가 어디로 이어질지 두려워하지 않고 논리의 종착점까지 추론의 흐름을 따라가야 하며, 그 종착점에 도달하면 그에 맞는 조치를 취해야 한다. 다가오는 기술의 물결은 이전에 목격했던 그 어떤 것보다 더 빠르고 더 큰 규모로 실패할 위험이 있다. 이 같은 상황에서는 전 세계적인 관심이 필요하다. 그리고 아직 그 누구도 찾지 못한 해답이 필요하다. 언뜻 보면 억제가 불가능한 상황이다. 하지만 우리 모두를 위해 반드시 억제할 수 있어야 한다. - 〈1장 억제가 불가능하다〉 중에서 약 100년이라는 시간 동안 인류를 양초와 마차의 시대에서 발전소와 우주 정거장의 시대로 이끈 물결이 연속적으로 이어졌다. 앞으로 30년 안에 그와 비슷한 변화가 일어날 것이다. 우리 앞에 다가올 수십 년 동안 새로운 기술의 물결은 인류가 마주할 수 있는 가장 근본적인 질문을 우리에게 던져 줄 것이다. 특정 질병에 대한 면역력을 갖고 있거나, 지능이 높거나, 더 오래 살 가능성이 있는 아이를 낳을 수 있도록 우리 유전자를 편집할 것인가? 우리는 진화의 피라미드 꼭대기에 있는 우리 자리를 지키기 위해 최선을 다할 것인가, 아니면 우리보다 더 똑똑하고 유능한 AI 시스템의 출현을 허용할 것인가? 이러한 질문들을 탐구하는 과정에서 발생할 수 있는 의도치 않은 결과는 어떤 것들이 있을까? 이러한 질문들은 21세기의 호모 테크놀로지쿠스에 대한 중요한 진실을 보여 준다. 역사 전반에 걸쳐 기술의 도전 과제는 기술을 개발하고 그 힘을 발휘하는 데 있었다. 하지만 이제 그러한 역사적 흐름이 바뀌었다. 오늘날 기술의 도전 과제는 기술이 발휘할 수 있는 힘을 억제해 우리 인간과 지구에 계속 도움이 될 수 있도록 하는 데 있다. 그러한 도전이 이제 결정적으로 확대되기 직전에 있다. - 〈3장 기술 억제 문제〉 중에서 앞으로 다가올 물결 안에 우리가 열심히 연구하고 있는 바로 그 기능들을 어떻게 담아낼 수 있을지 아무도 모른다. 기술 스스로 전적으로 발전을 주도하고, 반복적인 개선 과정을 거치고, 설명할 수 없을 정도로 발전하고, 결과적으로 현실에서 어떻게 작동할지 예측할 수 없게 되는, 즉 인간의 힘과 통제가 한계에 도달하게 되는 시점이 오게 될 것이다. 앞으로 다가올 변화의 물결이 매우 극단적인 형태로 나타날 경우, 결국 인류는 먹이 사슬의 최상위 자리를 잃게 될 수도 있다. 호모 테크놀로지쿠스는 결국 자신들이 만들어 낸 기술의 위협을 받게 될지도 모른다. 진짜 문제는 그 물결이 다가오고 있는지 아닌지가 아니다. 이미 그 물결이 형성되고 있는 것은 분명하기 때문이다. 잠재적 위험을 감안할 때, 정말 중요한 문제는 그러한 위험을 어떻게 피할 수 있는가이다. -〈7장 다가오는 물결의 네 가지 특징〉 중에서 모든 것이 누설되고 복제되고 반복되고 개선된다. 또한 모두가 서로를 관찰하고 배우며 수많은 사람들이 같은 영역을 탐구하고 있기 때문에 결국 누군가는 다음 단계의 획기적인 기술을 발견할 수밖에 없다. 그리고 이를 억제하기란 사실상 불가능하다. 다른 누군가가 동일한 인사이트를 발견하거나 동일한 결과를 달성하기 위해 유사한 접근 방식을 찾아낼 것이기 때문이다. 사람들은 전략적 잠재력이나 수익, 명성 등을 위해 결코 그러한 노력을 멈추지 않을 것이다. 이것이 우리가 새로운 물결을 거부하지 않는 이유다. 또 이것이 바로 새로운 물결이 다가오는 이유이며, 그 물결을 억제하기 어려운 이유다. 기술은 이제 일상, 사회, 경제의 모든 측면에 영향을 미치는 필수 불가결한 대규모 시스템이 됐다. 기술이 없으면 아무것도 할 수가 없다. 확고하게 확립된 인센티브는 기술의 양을 크게 늘리는 데 유리하다. 그 누구도 이 기술이라는 시스템이 무엇을 하고 또 어디로 나아갈지 완전히 통제할 수 없다. 이것은 난해한 철학적 개념이나 극단적인 결정론적 시나리오, 또는 몽상적인 캘리포니아의 기술 중심주의가 아닌 우리 모두가 살고 있는 세상, 즉 실제로 우리가 꽤 오랫동안 살아온 세상에 대한 기본적인 설명이다. - 〈8장 억제가 불가능하다〉 중에서 이 책이 기술에 대한 낙관론과 우려를 동시에 표명하는 모순적인 입장을 취하는 것처럼 보인다면, 바로 이러한 모순적인 시각이 현재 우리가 처한 상황을 가장 잘 나타내는 정직한 평가이기 때문이다. 우리의 증조부모들은 우리가 살고 있는 이 세상의 풍요로움에 감탄했을 것이다. 하지만 동시에 그들은 이 세상이 지닌 취약성과 위험성을 보고 놀랐을 것이다. 다가오는 물결과 함께 우리는 잠재적으로 재앙적인 결과를 초래할 수 있는 실질적 위협뿐 아니라 심지어 우리 종의 존립마저 위협하는 위험에 직면해 있다. 기술은 우리에게 최고의 장점이자 최악의 단점이다. 이러한 기술의 본질을 제대로 포착할 수 있는 일방적인 접근 방식은 존재하지 않는다. 기술에 일관적으로 접근할 수 있는 유일한 방법은 두 가지 측면을 동시에 인정하고 이해하는 것이다. 지난 10여 년 동안 이러한 딜레마는 한층 더 두드러졌고, 이를 해결해야 한다는 필요성은 더욱 절실해졌다. 세상을 들여다보면 억제는 불가능해 보인다. 하지만 다가오는 물결이 초래할 결과를 따라가다 보면 분명한 사실을 하나 발견하게 된다. 그 사실은 바로 모두를 위해 억제가 가능해야 한다는 것이다. 〈12장 딜레마〉 중에서 다가오는 물결을 억제하는 것은 현재 우리 세계에서는 불가능하다고 생각한다. 하지만 이러한 조치를 통해 근본적인 조건을 바꿀 수는 있다. 현재의 상황을 조금이나마 개선해 억제할 수 있는 기회를 만들어 내야 한다. 이 모든 것이 실패할 수도 있다는 것을 알고 접근해야 하지만, 인류의 번영과 억제가 공존할 수 있는 세상을 만들기 위해 우리가 할 수 있는 최선의 노력일 것이다. 여기에는 어떠한 보장이나 마법 같은 해결책도 없다. 확실하고 신속한 해결책이나 현명한 해답을 기대하는 사람들은 실망할 수도 있다. 딜레마에 다다르면 우리는 늘 그렇듯 최선을 다하고 긍정적인 결과를 기다리는 지극히 인간적인 태도를 취하게 된다. 내가 생각하는 10가지 해결 방법은 다음과 같다. - 〈14장 억제를 위한 10가지 단계〉 중에서