인공지능 기술, 이용하기만 해도 될까? 우리가 미래를 위해 고민해야 할 문제는 무엇일까? 얼마 전 인공지능(AI) 챗봇 ‘이루다’가 사회적으로 큰 물의를 불러일으킨 적 있다. 데이터 수집부터 대사 표현에 이르기까지 심각한 윤리적 법적 문제가 있다는 사실을 많은 이들이 알게 되었다. 그런데 유달리 이루다만 크게 주목 받았을 뿐, 사실 그 문제가 모든 인공지능에게 나타나고 있으며 나타날 수 있다는 데까지는 깊이 생각하기 쉽지 않다. 이제 인공지능이 중요하다는 사실을 모르는 이는 별로 없다. 데이터가 인공지능을 만든다는 원리도 일부 이해한다. 4차 산업혁명이 온다는 이야기는 상식이 되었다. 코로나19로 인해 인공지능 시대는 더욱 우리 눈앞으로 다가왔다. 책은 이렇게 말한다. “아무리 학자들이 임금 하락과 실업 증가를 걱정하더라도 결국 일어날 일은 일어나고야 만다. 과학자들은 계속 로봇을 연구하고 기업들은 더욱 많은 로봇을 도입할 것이다. ……아이비엠의 슈퍼컴퓨터 딥 블루는 체스 챔피언 카스파로프를 이기고 체스의 신이 되었고, 구글의 알파고는 이세돌을 이기고 바둑의 신이 되었다. 환자를 돌보기 바쁜 의사들은 쏟아져 나오는 의학 논문을 모두 읽어보기 어렵지만, 인공지능 왓슨은 수십만 건의 논문과 수백만 명의 환자 기록을 읽고 인간보다 더 정확하게 암을 진단해낸다. ……트레이더 로봇은 인간 애널리스트보다 우수한 성과를 내면서 이미 거래량의 70퍼센트 이상을 담당하고 있다.” (본문 49페이지) 미래에는 물론이고, 지금부터 알아야 할 인공지능을 둘러싼 쟁점들, 친절한 법학자의 안내를 따라 이해해보자! 보통 사람들은 인공지능이라고 하면 첨단기술의 영역이라고 여기며 단순한 소비자에 머물거나, 미래 인공지능으로 인해 찾아올 일자리 상실 등을 막연히 두려워할 뿐이다. 우리나라 최정상 법학자 중 하나인 저자 정상조 서울대 법학전문대학원 교수는 그런 사람들을 위해?먼저 알파고부터 크롤러, AI스피커, 이루다에 이르기까지, 이미 활동하는 흥미로운 인공지능 로봇들을 소개하고 그로 인해 새롭게 부상한 이슈를 하나하나 짚어 나간다. 그러고는 한 사회의 기본 테두리라 할 수 있는 법과 제도가 새롭게 생겨난 쟁점들에 어떠한 판단을 내려 왔고, 또 내릴 수 있는지 쉽게 설명하며 우리 모두가 직면한 구체적인 문제로 안내한다. 이 책은 현실 진단에만 그치지 않는다. 곧 도래할 “대분기”의 우리나라 산업 발전을 위해 우리 스스로와 사회 제도가 어떻게 바뀌어야 할지까지 짚는다. 아카데미 작품상을 받은 영화 ‘기생충’의 알레고리에 우리 사회를 빗대 앞으로 더욱 강력해질 인공지능의 시대 극도로 치달을 빈부격차의 부작용도 놓치지 않는다. “물론 영화 [기생충]의 알레고리를 로봇 시대에 그대로 적용하기는 쉽지 않다. 빈부격차 자체는 심해지지만, 누가 기생충parasite 이고 누가 숙주host 인지 구별하기 어려워지고 있기 때문이다. 그러나 적어도 한 가지는 분명하다. 로봇을 보유한 이든 그렇지 못한 이든, 누구를 우리 사회에 기생하는 기생충으로 규정할지는 우리가 만들어갈 사회의 모습, 미래 정책과 제도에 크게 좌우되리라는 사실이다.” (본문 180페이지) 사려 깊게 인공지능과 둘러싼 우리의 문제를 다루는 이 책은 인공지능 기술을 직·간접적으로 활용할 모든 사람들은 물론, 앞으로 올 인공지능의 시대에 주체적인 시민으로 살아가고 싶은 사람들, 기술로 인해 발생할 문제를 두려워하기보다는 각자의 자리에서 조금씩 해결해 나가고자 하는 우리 사회 모든 구성원에게 친절한 나침반이 되어줄 것이다. [사회평론 지식 총서 SPIKE] 우리 사회의 이슈를 예리하고 강렬하게 담아내는 사회평론의 지식 총서입니다. 누군가에게는 반드시 필요한 지식, 한때의 유행에 휩쓸리지 않고 오랫동안 읽힐 만한 다양한 주제의 지식을 발굴하여 편하게 읽을 수 있도록 엮어냅니다. 01 인공지능, 법에게 미래를 묻다 (정상조 지음) 02 독도 120년 (이선민 지음)

들어가며 데이터 산업의 서막이 오르다: 우리의 미래가 걸린 4차 산업혁명 Q1 ‘로봇 인지 감수성’, 필요할까: 로봇 기술 발전의 현주소 #지능형 로봇 #휴머노이드 Q2 로봇의 학습은 인간과 왜 다를까: 인공지능이 작동하는 방식 #머신 러닝 #데이터 라벨링 #플랫폼 노동 Q3 데이터 학습의 가장 큰 장애물은 무엇일까: 피할 수 없는 로봇의 법 위반 #데이터 회색 지대 #공정이용 #비표현이용 Q4 인공지능의 창작은 누구의 몫인가: 로봇의 권리와 책임 #렘브란트 프로젝트 #알고리즘 화가 #자율주행자동차 Q5 로봇은 왜 인간을 차별할까: 인공지능의 윤리 문제 #맞춤형 광고 #검색어 자동 완성 #정보공개청구권 Q6 ‘빅 브라더’로부터 벗어날 수 있을까: 데이터 생산과 프라이버시 #사물인터넷 #민주주의 #개인정보 이동성 Q7 다음 세대를 위해 어떤 정치가 필요할까: 4차 산업혁명이 초래할 빈부격차 문제 #긱 이코노미 #로봇세 #특이점 부록 로봇 관련 법령 현황 및 개선 방향 추천의 글 차상균 서울대 데이터사이언스 대학원장

로봇이 몰고 올 21세기 산업혁명은 18세기 산업혁명보다 10배 더 빠르게 그리고 300배 더 커다란 규모로 진행되리라 예상된다. 머지않아 로봇을 활용해 도약에 성공한 신종 국가와 그렇지 못한 토종 국가 사이에 커다란 격차가 생겨나 21세기형 ‘대분기great divergence’가 완성될 것이다. 우리나라 역시 대분기를 피할 수 없다. 우리는 지금 기술 혁신을 통해 재도약할 것인지 아니면 시간만 흘려보내며 토종 국가로 퇴보할 것인지의 갈림길에 서 있다. - p.16 ‘데이터 산업의 서막이 오르다’ 중에서 이제는 ‘로봇 인지 감수성’이 필요하다. 성 인지 감수성을 갖고 성차별 문제를 바라볼 때 비로소 성 평등 시대가 열리고 그 시대에 적응할 수 있는 것처럼, ‘로봇 인지 감수성’을 갖고 로봇의 관점에서 사회를 바라보아야 4차 산업혁명에 성공하고 로봇 시대에 적응할 수 있다. - p.32 ‘로봇 인지 감수성, 필요할까’ 중에서 실제 도서관이 교수와 학생이 이용하기 좋은 공간이라면, 구글의 디지털 도서관은 사람보다 인공지능이 더 잘 활용할 수 있는 곳이다. 사람은 디지털 도서관에 소장된 책을 다 읽을 수도 없고, 또 그 책만 읽으면서 살 수도 없지만, 인공지능은 전원이 공급되는 한 계속 책을 읽어나갈 수 있다. (…) 아이러니하게도 구글의 구텐베르크 사업은 사람이 아닌 로봇과 인공지능을 위한 사업에 더 가까워진 셈이다. - p.42 ‘로봇의 학습은 인간과 왜 다를까’ 중에서 사람이 저작물을 학습하는 행위와 달리 인공지능의 데이터 학습은 법 위반의 지뢰밭을 통과하는 위험하고 아슬아슬한 모험이다. 상식과 달라서 당황스러울 수 있겠지만, 현행법상으로 인공지능의 저작물 학습은 저작권자의 허락을 받거나 공정이용fair use에 해당하지 않으면 저작권 침해 행위다. 그런데 인터넷에 공개된 콘텐츠를 수집할 때 현실적으로 일일이 저작권자의 허락을 받기 어려우므로, 현재 법적으로 가장 중요한 논쟁거리는 결국 데이터의 수집과 이용이 공정이용에 해당하는지 여부이다. - p. 58 데이터 학습의 가장 큰 장애물은 무엇일까 ‘누가 벨라미 초상화의 화가인가’라는 문제는 ‘누가 낙찰가 5억 원을 받을 수 있는가’라는 아주 현실적인 문제로 직결된다. 그 답은 ‘법적으로 벨라미 초상화의 저작권이 누구에게 귀속되는가’에 달려있다. 비슷한 문제로 로봇이 음악을 작곡하거나 소설을 쓴다면 작가로 인정받을 수 있는지, 그리고 작품의 저작권을 누가 갖는지 등이 제기될 수 있다. - p.94 ‘인공지능의 창작은 누구의 몫인가’ 중에서 3년 전 유럽연합 의회는 로봇이 권리를 가지고 의무를 부담할 수 있도록 전자 인격체electronic personhood로서 지위를 부여해야 한다는 보고서를 채택한 바 있다. 비록 통과되지 못했지만, 우리나라 국회에서도 소위 ‘로봇 기본법’을 발의해 로봇에게 권리와 의무의 주체가 될 수 있는 전자 인격체 지위를 부여하려고 시도한 적 있었다. - p.112 ‘인공지능의 창작은 누구의 몫인가’ 중에서 아이가 어른의 언행을 보고 배우는 것처럼, 로봇 역시 우리의 생각과 행동을 그대로 배워서 반복한다. 로봇은 의식적으로든 무의식적으로든 그동안 우리가 직시하지 않으려 했던 우리 안의 편견과 차별을 거울처럼 명료하게 비춰준다. 공교롭게도 이루다가 출시된 날은 대통령 직속 4차 산업혁명위원회가 ‘국가 AI 윤리 기준’을 확정한 날이기도 하다. (…) 우리 안의 편견과 차별을 그대로 놔둔 채 로봇의 알고리즘이 문제를 간편히 해결해줄 거라고 기대할 수는 없다. - p.132 ‘로봇은 왜 인간을 차별할까’ 중에서 개인정보 수집 동의의 영향은 점점 더 커질 수밖에 없다. 앞으로 우리는 더욱더 많은 개인 데이터를 숨 쉬듯 생산할 예정이기 때문이다. 이미 인공지능 스피커처럼 우리 바로 옆에 있는 로봇을 통해, 내비게이션과 자율주행자동차의 기록을 통해, 한 몸처럼 동기화된 휴대전화와 노트북 이용 패턴을 통해 수많은 개인 데이터가 만들어지는 중이다. 우리의 데이터를 보유한 기업도 점점 다양해진다. 통신 사업자, 내비게이션 사업자, 자동차 제조업자, 포털 사업자 등 다양한 기업이 제각각 우리의 자동차 운행 시간, 이동 경로, 방문지, 선호하는 음악과 콘텐츠, 방문한 웹사이트 등 다양한 개인정보를 갖고 활용한다. - p.155 ‘빅 브라더로부터 벗어날 수 있을까’ 중에서 중국 정부는 시민들의 사회 신용을 점수화하기 위해 톈왕에서 수집한 데이터를 이용한다. 좋은 인민과 나쁜 인민을 구분하고 계급을 부여하는 것이다. 사회신용체계에서는 일반적인 소비 내역과 함께 다양한 종류의 데이터가 신용 평가의 대상이 된다. 예를 들어 부정적인 평가를 받는 활동에는 성매매나 교통 법규 위반 등이 포함된다. 이동 중인 기차 안에서 식사했다거나 쓰레기 분리수거를 제대로 하지 않았다거나 하는 가벼운 사건 역시 부정적인 점수를 받는다. 반대로 헌혈이나 기부, 봉사활동 등의 선행은 긍정적인 점수를 받을 수 있는 활동에 속한다. - p.165 ‘빅 브라더로부터 벗어날 수 있을까’ 중에서 물론 영화 〈기생충〉의 알레고리를 로봇 시대에 그대로 적용하기는 쉽지 않다. 빈부격차 자체는 심해지지만, 누가 기생충parasite이고 누가 숙주host인지 구별하기 어려워지고 있기 때문이다. 그러나 적어도 한 가지는 분명하다. 로봇을 보유한 이든 그렇지 못한 이든, 누구를 우리 사회에 기생하는 기생충으로 규정할지는 우리가 만들어갈 사회의 모습, 미래 정책과 제도에 크게 좌우되리라는 사실이다. - p.180 ‘다음 세대를 위해 어떤 정치가 필요할까’ 중에서