★ 세스 고딘, 스콧 갤러웨이, 던컨 와츠 강력 추천! ★ ★ 〈와이어드〉 선정 ‘올해 최고의 책’ ★ ★ 포치라이트 비즈니스 북어워드 최종 후보 ★ ★ 기획재정부 DEF 2021 키노트 스피커 ★ “코로나19로 오프라인 세계가 멈춘 날, 온라인 세계는 디지털 산불로 활활 타올랐다.” “바이러스에 쫓긴 인류가 거리를 떠나 집으로 들어가면서 수십억 인구가 노트북과 스마트폰으로 몰려들었다. 온라인에 접속한 사람들은 필사적으로 각종 뉴스와 의학 정보, 사회적 지원, 인간관계, 일자리를 찾았다. 오프라인 세계가 멈춘 날, 온라인 세계는 디지털 산불로 활활 타올랐다.” 소셜 미디어는 선(善)을 위한 도구일까? 아니면 그저 세상 쓸모없는 인생 탕진 골칫덩어리일까? 코로나19는 전 세계인의 소셜 미디어 인식과 활용에 극적인 변화와 충격을 주었다. 팬데믹 직전까지 사생활 침해로 공격받던 ‘감시 자본주의’의 상징 페이스북이 ‘생명을 구하는 질병 감시자’로 탈바꿈하면서 사람들은 더욱 큰 혼란에 빠졌다. 공공의 이익을 위해 바이러스를 추적하고, 국가 질병 감시 프로그램의 허점을 메우는 것이 중요할까? 아니면 이것 역시 또 다른 방식의 소셜 미디어의 사생활 감시일까? 코로나 3년 차, 일상의 모든 곳에 소셜 미디어는 다시 되돌릴 수 없을 만큼 깊숙이 뿌리내렸다. 10일 만에 크림반도 접수한 러시아의 정보작전부터 5분 만에 152조 증발시킨 시리아 해커까지… “전 세계는 무엇에, 누구 손에 놀아나는가?” 책은 2014년 2월 크림반도 이야기로 시작된다. 단 10일 만에 크림 자치 공화국이 러시아에 합병되는 과정에서, 인류 역사상 가장 치밀한 정보작전이 배후에 존재했다는 이야기다. 러시아가 ‘하이프 머신’을 활용해 크림반도 사태에 대한 우크라이나 국민과 전 세계인의 인식을 선제적으로 조정해 자신들에게 유리한 프레임을 짰고 그것이 정확히 먹혔다는 것. 또 2013년에는 ‘백악관 폭발, 오바마 부상’이라는 내용의 AP통신 발 트윗 하나가 5분 만에 주식시장에서 152조를 증발시켰다. 시리아 해커들이 AP통신을 해킹해 퍼트린 가짜 뉴스였다. 시난 아랄 교수는 전쟁, 테러, 선거 등 여러 사건에 대해 소셜 미디어로 배후를 조종하는 가짜 뉴스 세력의 실체를 파헤쳤다. 어쩌면 지금도 어디선가, 누군가가 치밀한 작전을 펼치고 있음을 경고하는 이 책은, 그들이 어떤 방식으로 대중을 움직이고 경제적 이득을 취하는지 상세하게 알려준다. “이것이 정말 ‘나’의 선택일까? ‘소셜 미디어’의 선택일까?” 무심코 누른 ‘좋아요’ 하나가 지구 반대편 폭동 일으킬 수도 그렇다면 소셜 미디어는 어떤 방식으로 우리의 의사결정을 조종할까? 왜, 어떤 의도로, 누가, 그러는 것일까? 20년 이상 소셜 미디어를 연구해온 시난 아랄 교수는 내부자 관점에서 소셜 미디어가 의사결정에 영향을 미치는 방식을 공개했다. 가령 ‘좋아요’를 딱 1번 눌렀을 뿐인데, 하이프 머신은 당신의 관심을 포착해 각종 콘텐츠에 대한 찬성이나 반대를 끌어내고, 인센티브로 도파민까지 분출되게 만든다. 심지어 현대인의 뇌는 ‘좋아요’를 많이 받은 게시물을 보면 뇌 속 도파민 시스템과 시각피질을 활성화시키는 것으로 조사되었다(이미 뇌가 그렇게 변화한 것이다). 시난 아랄 교수는 이와 더불어 “하이프 머신은 이미 완벽한 디지털 마케팅 기계”라며 하이프 머신 때문에 인간은 돌이킬 수 없을 정도로 완벽하게 ‘초사회화’되었다고 주장한다. 이 책은 전쟁, 테러, 선거부터 마케팅, 자녀교육, 뇌과학까지 소셜 미디어의 전방위적 신경망을 세세하게 짚어 보여주며 우리의 일과 삶을 뒤흔드는 중요한 의문에 답한다. 우리가 생각하고, 느끼고, 반응하는 모든 것을 소셜 미디어가 어떻게 바꾸어놓았는지, 좋은 쪽으로든 나쁜 쪽으로든 어떤 영향을 어디까지 미치고 있는지 말이다. 초사회화된 인간으로서, 거대한 마케팅 기계 ‘하이프 머신’ 속에서 인류가 어떻게 존재해야 하는지 돌아보게 한다.

서문: 팬데믹, 장밋빛 약속 그리고 위험 1장 새로운 소셜 시대 대체 크림반도에서 무슨 일이 벌어진 것인가? | 진실이 신발을 신는 동안 거짓은 지구 반 바퀴를 돌고 있다 | “마크, 우크라이나에 페이스북 지사를 세우지 않으렵니까?” | 의사 로조프스키라는 가짜 인물의 가짜 뉴스 | 초사회화, 맞춤형 대중 설득, 트렌드의 횡포 | 20년간의 하이프 머신 연구 여정 | 과학자, 기업가, 투자자로서 바라본 새로운 소셜 시대 | 이 책의 구성 | 하이프 머신 안에서 우리 모두는 디지털 마케터다 2장 현실의 끝 가짜 뉴스로 악명을 떨친 여배우 | 가짜 뉴스와 금융 시장 | 잘못된 정보는 정치적 무기가 된다 | 러시아의 선거 개입 규모와 대상 | 소셜 미디어 조작과 투표 | 2020년 미국 대통령 선거 | 공중위생 위기와 가짜 뉴스 | 페이스북의 안티백신 왕 | 가짜 뉴스 연구 | 소셜 봇과 가짜 뉴스 | 참신성 가설 | 가짜 뉴스에 대한 인간의 민감성 | 가짜 뉴스를 만드는 경제적 동기 | 현실의 끝 3장 하이프 머신 소셜 네트워크는 컴퓨터다 | 하이프 머신의 해부 | 4가지 지렛대: 돈, 코드, 규범, 법 | 디지털 소셜 네트워크 | 하이프 머신의 소셜 그래프 | 하이프 루프 | 스마트폰 | 하이프 머신의 틀 4장 소셜 미디어와 당신의 뇌 하이프 머신에 푹 빠진 뇌 | 심리학적 요소 | 사회적 뇌 가설 | 뇌는 왜 ‘좋아요’ 숫자에 반응하나? | 사회적 영향의 신경학적 토대 | 장밋빛 약속과 위험에 맞춰 5장 네트워크의 중력은 그 질량에 비례한다 네트워크는 중력과 같다 | 페이스북은 어떻게 마이스페이스를 제쳤을까? | 담장으로 둘러싸인 하이프 머신 정원들 | 네트워크 효과와 상호 운용성 | 네트워크 효과의 어두운 면 | 전략적 채찍질 6장 맞춤형 대중 설득 디지털 마케팅을 통한 러시아의 개입 | 리프트, 어트리뷰션 그리고 하이프 머신의 회전력 | 하이프 머신의 수익률 | 인과관계에 대한 진지한 고려 | 통합 디지털 마케팅 | 맞춤형 대중 설득의 시대 | 디지털 마케팅의 추한 비밀 | 희소식 | P&G의 디지털 마케팅 전략 7장 초사회화 인간은 언제 전력투구하나? | 운동에도 전염성이 있을까? | 뉴스 소비가 달라졌다 | 익명성으로 더욱 과감해진 파트너 탐색 | 홍바오와 이타심 | 피드를 통한 감정 전염 8장 초사회화 세계에서의 전략 네트워크 타기팅: 친구들의 호불호가 당신의 호불호를 보여준다 | 유유상종에 따른 추천 마케팅 | 호불호의 변화에 따른 소셜 광고 | 우리의 감정을 자극하는 입소문 기획 | 인플루언서 마케팅 9장 관심 경제와 트렌드의 횡포 #AskGaryVee | 관심 경제 | 마이크로타기팅은 효과가 있을까? | 케임브리지 애널리티카 | 트렌드의 횡포 | #ReleaseTheMemo | 관심 불평등 | 참신성, 충격 그리고 진실 | ‘평균치’는 무의미하다 10장 대중의 지혜와 광기 평점 조작 실험, 그 결과는? | 온라인 별점들이 그린 J 곡선 | 하이프 머신의 그늘에 가려진 집단 지성 | 독립성: 정보의 폭포를 피할 수 있을까? | 다양성: 양극화의 역설과 심화 | 평등성: 지혜가 없는 사회는 균형도 없다 | 대중의 지혜여, 영원하라 11장 소셜 미디어의 장밋빛 약속도 위험하다 집단행동을 바꾸는 하이프 머신 | 내가 ‘샤를리 에브도’다 | 러시아의 네오 | VK와 백색 혁명 | 디지털 집단행동의 힘과 취약성 | 텔레그램과 테러리스트 | 선과 악의 전달자 | 투명성 역설 | 대가가 따르는 복지 | 불평등한 기회 | 칼이 아닌 메스를 들고 12장 더 나은 하이프 머신은 가능한가? 페이스북을 해체해야 할까? | 페이스북과 독점 금지법 | 개인의 소셜 그래프와 데이터 이동성 | 사생활과 데이터 보호 | 가짜 뉴스와 잘못된 정보 | 선거의 공정성 | 표현의 자유와 혐오 표현 | 건강한 소셜 생태계에는 무엇이 필요한가? 주석 그림 출처 찾아보기

그렇게 해서 우리는 일주일 만에 미국은 물론 전 세계 보건 기구들을 지원할 프로젝트 3개를 구상했다. 사회적 거리두기가 코로나바이러스 확산에 미치는 영향을 알아보고 온라인상에서 팬데믹과 관련하여 잘못된 정보들을 퇴치하기 위한 프로젝트였다. 나는 페이스북 측에 연락해 함께 일하자고 제안했다. 그들은 내 제안을 즉시 받아들였다. 이미 데이터 라이선스 계약을 맺고 있던 터라 페이스북 측은 우리에게 바로 자신들의 데이터를 공유해주었다. (…) 우리는 사회적 거리두기가 팬데믹 확산에 미치는 영향을 모델화하는 일에 전력투구했다. 페이스북의 ‘질병 예방 지도’는 페이스북 사용자들의 위치 밀집도와 이동 경로, 네트워크 연결성은 물론 익명의 페이스북 사용자들이 그날그날 머물렀던 사방 500제곱미터 공간에 대한 누적된 모바일 앱 데이터를 코로나 위기 이전과 비교해 추적할 수 있다. 우리는 그 데이터를 전 세계 국가나 도시, 지역에 내려진 사회적 거리두기 명령의 상세한 기록들과 종합했다. 그렇게 해서 사회적 거리두기 명령이 해당 명령이 내려진 도시나 지역 내 공공장소들에 머문 페이스북 사용자 수에 미치는 영향을 추산하고, 그 영향이 다른 도시나 지역에 어떤 영향을 미치는지 알아보고자 했다. - 16p, 팬데믹, 장밋빛 약속 그리고 위험 크림반도 사건에 대한 내 관점을 전달하기 위해 먼저 이야기 속 이야기를 통해 우크라이나 내에서 펼쳐진 사건들을 내가 어떻게 이해하고 있는지 일종의 배경 설명을 제공하려 한다. 크림반도가 러시아에 합병된 지 2년 후인 2016년 나는 미국 매사추세츠주 케임브리지에 있는 MIT 연구실에서 소로쉬 보수기, 뎁 로이와 함께 한 프로젝트에 전념하고 있었다. 우리는 트위터와 공동으로 ‘온라인을 통한 가짜 뉴스 확산’과 관련한 최대 규모의 종단적 연구를 해오고 있었다. 우리는 트위터가 처음 생긴 2006년부터 2017년까지 10년 동안 트위터상에서 확인된 모든 진실과 거짓 소문의 확산에 대해 분석했다. (…) 이 결과를 보고 우리는 매우 놀랐다. 트위터 역사상 팩트체크된 뉴스 가운데 가장 높은 정점(4배 이상 높았다)에 오른 혼합된 뉴스였던 데다가 그런 뉴스가 퍼지기 무섭게, 다시 말해 러시아의 크림반도 합병이 끝나자마자 바로 사라졌기 때문이다. 좀 더 조사해본 결과 우리는 친러시아 성향의 단체들이 소셜 미디어를 조직적으로 이용했음을 알아냈다. 러시아가 하이프 머신을 활용해 크림반도 사태에 대한 우크라이나 국민과 전 세계인의 인식을 선제적으로 조정함으로써 궁극적으로는 크림반도 국민의 의지가 자신들에게 유리하게 돌아가게끔 프레임을 짠 것이다. - 34p, 진실이 신발을 신는 동안 거짓은 지구 반 바퀴를 돌고 있다 그러나 모두가 점심을 먹으며 휴식을 취할 때 트위터에 AP 통신의 뉴스 하나가 올라오면서 시장 분위기가 급변했다. 뉴스가 계속 리트윗되면서 뉴욕과 워싱턴, 전 세계 식당에서 일제히 스마트폰 알림음이 울렸고, 하이프 머신상에서는 순식간에 인포메이션 캐스케이드 현상이 일어났다. 미국 동부 시간으로 오후 1시 7분에 올라온 트윗은 이렇게 간단했다. “속보. 백악관 내에서 두 번의 폭발 발생. 버락 오바마 부상.” 이 트윗은 단 5분 만에 4,000번 넘게 리트윗되었고 적어도 수십만 명의 사람들이 백악관 피습 뉴스를 접하게 되었다. 정말이지 너무도 충격적인 뉴스였다.(…) 주식 시장은 주춤거리다가 궤도를 이탈해버렸다. 만약 개인 투자자들만 이 뉴스에 영향을 받았다면 주식 시장의 충격은 어느 정도 선에서 끝났을 것이다. 하지만 하이프 머신은 고립된 채로 존재하지 않는다. 소셜 미디어상에서 실시간으로 나타나는 여론의 흐름을 감지하고 찾아내고 분석하고 활용하는 시스템들과 연결되어 있다. 소셜 미디어 데이터 분석업체인 데이터마이너Dataminr나 레이븐팩RavenPack 같은 기업들은 늘 소셜 미디어 데이터를 샅샅이 뒤져 온갖 잡음 속에서 중요한 신호를 찾아낸다. 그러다 그런 신호가 발견되면 바로 포착해 기업 고객들에게 시장 동향을 앞질러 미리 팔거나 사라는 조언을 해준다. 오바마가 부상당했다는 뉴스가 터진 그날 오후 여론의 흐름은 좋지 않았고, 데이터 분석업체들은 주식 매각 권고를 통해 자동화된 주식 거래 알고리즘을 움직여 주식을 팔아치우게 했다. 그러자 다우존스 지수가 거의 200포인트나 떨어지면서 단 몇 초 만에 주식 가치로 무려 1,390억 달러가 사라졌다. 그런데 그 뉴스는 사실이 아니었다. 백악관은 조용했고, 대통령은 무사했다. 그 뉴스는 시리아 해커들이 AP 통신의 트위터 계정에 침투해 퍼뜨린 가짜 뉴스였다. 그날 펜실베이니아 애비뉴 1600번지(백악관 주소-옮긴이)가 아니라 다른 데서 테러가 있었던 것이다. 테러는 트위터상에서 발생했고, 사상자들은 월가 주식 시장에서 생겨났다. 시장은 다시 반등했지만 주식을 사고판 실제 사람들은 실제 돈을 잃었다. 파이어 세일fire sale(국가 기반 시설에 대한 사이버 테러리스트의 3단계 공격-옮긴이)에 대처가 늦었던 사람들은 그야말로 쫄딱 망한 것이다. 2013년에 일어난 이 해킹 사건은 하이프 머신에 짜 맞춘 사회 기술 시스템이 얼마나 취약한지를 일깨워주었다. 일단 뉴스가 네트워크상에서 폭포처럼 흐르기 시작하면 멈추기도 어려울 뿐만 아니라 패닉을 막기 위해 충분한 시간을 가지고 검증하기는 더 어렵다. 그리고 뉴스가 잘못된 것이라면 금융 제도와 의료 체계, 민주주의 제도에 일대 혼란이 일어나는 등 온라인상의 거짓이 현실에 영향을 준다. - 63p, 현실의 끝 이렇게 해서 트위터 설립 이후 10년간 축적된 소문들로 방대한 데이터베이스가 구축되자 우리는 트위터를 검색해 각 뉴스에 대해 언급된 트윗들을 찾아냈고, 사람들이 ‘원본’ 트윗(트위터상에서 어떤 이야기가 처음 언급된 트윗)을 어떻게 공유했는지를 추적했다. 그러고 나서 온라인상에 퍼지는 이 이야기들의 리트윗 폭포들을 재현해냈다. 그 폭포들을 시각화하자 공유 활동 패턴이 마치 외계 생명체처럼 기이한 모양을 띠었다. 그 폭포들은 대개 처음에는 원본 트윗에서 비롯되는 리트윗들로 별빛 패턴을 보이다가 해파리 촉수처럼 생긴 새로운 리트윗 체인들이 뻗어 나왔다. 〈그림 2-2〉가 바로 이 가짜 뉴스 폭포 중 하나의 이미지다. 이 폭포들은 일정 시간을 두고 트위터 이용자들 사이에서 퍼져나가며 수학적 특성을 띠게 된다. 그래서 우리는 가짜 뉴스들이 진짜 뉴스와 다르게 어떤 식으로 퍼지는지 분석했다. 우리는 발견된 사실들에 매우 놀라고 당황했다. 모든 범주의 정보에서 가짜 뉴스는 진짜 뉴스보다 눈에 띌 정도로 더 멀리, 더 빨리, 더 깊이, 더 넓게 퍼진다는 것을 발견했다. 게다가 뉴스 중요도가 클수록 그런 경우가 더 많았다. 진짜 뉴스들은 1,000명 이상에게 퍼지지 않았는데, 상위 1%에 드는 가짜 뉴스들은 무려 10만 명에게 퍼졌다. 또한 가짜 뉴스는 진짜 뉴스와 비교해 1,500명에게 퍼지는 속도가 6배 가까이 빨랐고, 원본 트윗에서 10회 재공유되면서 리트윗 폭포를 이루는 속도 역시 20배 빨랐다. 가짜 뉴스는 모든 리트윗 폭포의 ‘깊이’ 면에서 진짜 뉴스보다 훨씬 폭넓게 확산되었고 더 많은 순방문자에 의해 리트윗되었다. - 96p, 가짜 뉴스 연구 마케도니아 벨레스는 5만 5,000명의 주민에 텔레비전 채널 두 개와 아름다운 교회가 몇 개 있는 고즈넉한 산악 도시다. 이곳에는 오스만 제국 시대의 재상부터 14세기 말 세르비아와 오스만 제국 간의 전투에 이르기까지 역사적으로 자랑할 만한 유명한 인물과 사건들이 있었다. 그러나 이 도시가 세계적으로 널리 알려지게 된 결정적 사건은 2016년 미국 대통령 선거 기간 중에 일어났다. 나아가 그 사건으로 실업 상태에 있던 이 도시의 10대 청소년들은 하이프 머신을 잘 이용하면 온라인상에 가짜 뉴스를 퍼뜨려 부자가 될 수 있다는 것을 알게 되었다. 당시 벨레스의 청소년들은 수백 개의 웹사이트를 만들고 활성화하여 소셜 미디어 광고 네트워크를 통해 미국의 유권자들에게 가짜 뉴스를 퍼뜨렸다. 구글 같은 기업들은 인터넷 브라우저들에 광고를 싣고, 웹사이트를 만든 사람에게는 끌어들인 방문객의 수에 따라 돈을 준다. 그런데 벨레스의 청소년들이 웹사이트를 만들고 소셜 미디어 네트워크를 통해 자신들의 콘텐츠를 잘 홍보하면 많은 돈을 벌 수 있다는 사실을 알게 되었다. 자신들의 글을 더 많은 사람이 공유할수록 더 많은 돈을 벌 수 있었다 벨레스의 청소년들은 가짜 뉴스가 더 많은 독자를 끌어들이며, 우리가 연구를 통해 알게 되었듯이 온라인상에서 가짜 뉴스가 진짜 뉴스보다 70%나 더 많이 공유된다는 사실도 알게 되었다. 그들은 신호를 확대할 가짜 계정들을 만들었다. 그 계정들이 일단 실시간 알고리즘에 포착되자 그들이 만든 가짜 뉴스가 훨씬 많은 사람에게 노출되면서 주목을 받게 되었다. 뒤이어 가짜 뉴스가 홍수처럼 쏟아져 나왔고 투표장으로 향할 미국 국민에게 들이닥쳤다. 한쪽으로는 돈이 쏟아져 들어왔고 다른 한쪽으로는 가짜 뉴스가 쏟아졌다. 벨레스에는 멋진 BMW들이 쏟아져 들어왔고 2016년 대통령 선거를 몇 개월 앞둔 미국에는 가짜 뉴스들이 쏟아졌다. 사실 벨레스는 일례에 불과하다. 2019년 가짜 뉴스 웹사이트들이 거둬들인 연간 광고 수입은 무려 2억 달러가 넘었다. - 104p, 가짜 뉴스를 만드는 경제적 동기 2017년 P&G의 브랜드 최고책임자 마크 프리차드는 구글과 페이스북 등에 실리는 디지털 광고는 투명성이 결여되어 있을 뿐만 아니라 가짜 콘텐츠나 혐오 콘텐츠에 광고가 실리고 있다며 소셜 미디어 플랫폼을 상대로 긴 비난성 성명을 발표했다. 그런 다음 프리차드는 자신의 말을 행동으로 옮겨 자사 디지털 광고 예산을 2억