미래 시대에는 인공지능이 인간을 위협할까? AI에 대한 오해와 편견을 들여다보다! 우리는 아침에 일어나 잠들기 직전까지 스마트폰의 곁에 두고 산다. 아침에 눈을 뜨면 맨 처음 스마트폰을 떠올리고, 스마트폰이 없으면 불안해하기도 한다. 사람들은 편리한 삶을 위해 기계를 만들었지만, 이제는 기계에 많은 부분을 의존하고 있다. 과학과 기술은 계속해서 발전하고 있다. 어쩌면 앞으로 우리는 지금보다 더 많은 부분을 기계에 의존하면서 살게 될지도 모른다. 차를 운전하기 위해서는 먼저 운전 면허증을 따야 한다. 그런데 앞으로 다가올 인공지능 시대에서는 운전 면허증이 필요 없을지도 모른다. 자율주행차가 사람 대신 운전하기 때문이다. 자율주행차가 보편화되면 어떤 일이 벌어질까? 막히는 도로 안에서 많은 시간을 낭비하지 않고, 음주 운전 같은 교통사고가 사라질 것이다. 하지만 장점만 있을까? 우리가 SNS에 올리는 글, 구글이나 네이버에 검색한 기록, 구매 내역 등 방대한 데이터가 네트워크에 축적되고 있다. 우리는 데이터를 남기지만, 데이터는 우리를 편협한 시각에 갇히게 한다. 사람들의 편견이 들어간 알고리즘은 차별적 결과를 내놓는다. 어떻게 하면 차별적 알고리즘이 나오지 않도록 할 수 있을까? 게다가 인공지능은 이미 많은 직업을 대체하고 있다. 인공지능이 우리의 일자리를 모두 빼앗아 가는 것은 아닐까? 〈어벤져스 2〉에 등장하는 울트론은 “지구를 지키려면 인류가 사라져야 한다”고 말한다. 초지능인 울트론은 인간이 지구를 망치는 공해라고 여겼기 때문이다. 우리가 만든 인공지능이 결국 인류를 멸망시키는 건 아닐까? 『나는 괜찮은 AI입니다』 속 여섯 가지 질문을 따라가다 보면 인공지능이 가져올 이점만이 아닌, 숨겨진 면면을 다각적으로 사고할 수 있다. 또, 인공지능과 왜 공존해야 하는지, 어떻게 공존해야 하는지 고민하는 과정을 통해 자신을 되돌아볼 수도 있다. 이 책이 청소년들에게 다가올 미래의 길잡이가 되어 줄 것이다.

들어가는 글 1장. 누구를 살릴 것인가? - 자율주행 인간과 로봇이 생각하는 가치는 같을까? 자율주행차 어디까지 왔나? 미래의 자동차가 로봇이라면? 생활을 바꾸는 차량 공유 자동차가 사회가 바꾼다! 누구를 살려야 할까? 보행자인가, 탑승자인가? 선택권은 누구에게? 2장. 인공지능은 객관적이고 중립적일까? - 빅데이터와 알고리즘 범죄를 미리 예측할 수 있다면? 인공지능의 토대 빅데이터 빅데이터를 어디에 쓸까? 인공지능은 얼마나 객관적일까? 킬러 로봇만큼 위험한 편향 자동화된 불평등이 만들어진다고? 선한 알고리즘을 늘리는 방법 일상을 감시당하는 알고크라시 3장. 인공지능도 마음을 가질 수 있을까? - 관계 인간이 되고 싶은 로봇 소셜 로봇이 온다! 로봇은 미래를 어떻게 바꿀까? 인간보다 더 인간답게 로봇에게도 마음이 있을까? 태초에 느낌이 있었다 얼마나 닮았는가 인공지능과 로봇의 권리 4장. 업로드된 정신도 인간일까? - 신체 기계화된 신체를 가진 사람들 몸을 기계로 만든다면? 타고난 사이보그 어디까지 내 몸일까? 뇌를 컴퓨터로 옮기는 방법 뇌와 기계를 잇다 마음을 업로드할 수 있을까? 다른 기억을 가진 두 명의 나 새로운 인간이 나타난다! 5장. 일자리가 사라지면 어떻게 될까? - 일자리 노동 없는 유토피아 로봇이 우리 일자리를 빼앗을까? 사라질 직업, 살아남을 직업 내 일자리가 사라진다면? 기본소득이 우리를 지켜 줄까? 일하지 않는 사람이 늘어날까? 로봇세와 데이터세 행복을 가져다주는 일 6장. 초인공지능과 어떻게 공존할까? - 초인공지능 누가 진짜 주인이고 노예일까? 인공지능이 진화하고 있다! 초인공지능이 왜 문제일까? 인류가 멸망할지도 몰라! 사람처럼 생각하는 기계를 만드는 방법 초인공지능을 통제할 수 있을까? 서로를 받아들이고 존중하는 마음 우리가 달라져야 한다 참고문헌

스푸너를 구한 로봇은 “로봇은 인간을 보호해야 한다”는 로봇 3원칙의 제1원칙에 따라 그를 구했을 것이다. 문제는 보호할 수 있는 사람보다 보호해야 할 사람이 많을 때 발생한다. 이런 상황은 자율주행차에도 적용된다. A를 살리고 B를 죽이는, 어쩔 수 없는 선택의 순간이 온다면 자율주행차는 어떤 판단을 내려야 할까? p19 알고리즘에는 인간의 편견, 오해, 편향성 등이 코드화되어 있다. 코드화된 알고리즘은 점점 더 우리 삶을 지배하는 시스템의 일부가 되어가고 있다. 미래에는 알고리즘의 통제권을 손에 쥔 사람이 세상을 지배할 것이다. 알고리즘이 권력이며 최종 결정권자가 되는 셈이다. 어쩌면 알고리즘이 모두의 인생 항로를 결정할지 모른다. 지금부터라도 알고리즘을 체계적으로 감시하고 다방면으로 견제해야 할 것이다. p87 사람들은 종종 타인이 내 기분에 맞춰 주고 내 욕구를 받아 주기 를 기대한다. 그렇게 일방적으로 자기가 원하는 역할을 타인에게 맡겨 버린다. 마치 타인을 자기 마음대로 해도 상관없는 인형처럼 생각하는 것이다. 온갖 희생을 감수하며 이런 관계를 유지할 사람 은 별로 없다. 그러나 인공지능 로봇의 경우에는 사용자가 무리한 요구를 해도 아무런 불평 없이 들어준다. 결국 사람들은 점점 더 기 계에 더 기대하고 사람에게는 덜 기대하게 될지도 모른다. p115 신체와 정신을 구별하고, 인간의 본질이 신체가 아닌 정신에 있다는 관점은 이미 많은 서양 철학자들로부터 논의되었다. 그러나 몸을 벗어난 정신이 그 자체로 존재한다는 것은 차원이 다른 이야기이다. 정신과 육체는 정말 상호 배타적일까? 몸을 이리저리 자유자재로 바꾸는 사람들, 기계와의 융합을 서슴없이 시도하는 사람들도 인간이라고 부를 수 있을까? p170~171 노동 소득의 감소는 세 가지 문제를 초래한다. 첫째, 생산과 유 통, 그리고 소비로 이어지는 순환 구조가 깨진다. 한마디로 경제가 작동하지 않는다. 둘째, 복지, 특히 노동과 연계된 사회보험의 지속 가능성이 줄어든다. 국민연금, 건강보험 등은 일하는 사람이 많아 야 보험료가 많이 걷히고, 쌓아 둔 보험금도 쉽게 바닥나지 않고 오 래 유지되기 때문이다. 셋째, 할 일을 잃고 방황하는 이들이 가득해 진다. 먹고살 최소한의 돈이 없으면 범죄나 폭동이 만연해질 수밖 에 없다. 기술은 부富의 총량을 늘리는 동시에 불평등을 심화한다. p191~192 사람보다 훨씬 똑똑한 기계가 출현해 월등히 뛰어난 인공지능을 쉽게 만들어 낸다면 어떻게 될까? 이때부터 인간과 기계가 맺는 관 계는 지금과는 완전히 달라질 수밖에 없다. 과학자들은 미래 사회 에서 사람과 기계의 사회적 관계는 세 가지 중 하나가 될 것으로 예 측한다. 인간이 기계를 짐승처럼 부리는 관계, 인간과 기계가 서로 돕고 사는 관계, 기계가 인간을 지배하는 관계이다. 우리가 추구해 야 할 관계는 인간과 기계가 서로 돕고 사는 것이 아닐까? p243