제1장 로봇과 인공지능(AI) 제1절 로 봇 2 1. 로봇의 정의 2 (1) 로봇의 어원 2 (2) 로봇의 정의 3 2. 로봇의 특징 6 (1) 센서에 의한 감지와 인식 6 (2) 자율적인 생각과 판단 8 (3) 환경에 대한 적응성 9 3. 로봇의 종류 9 (1) 산업용 로봇(제조용)과 서비스 로봇(개인·전문) 9 (2) 범용형 로봇과 특화형 로봇 10 (3) 나노로봇과 네트워크화된 로봇 11 4. 로봇에 대한 평가 12 제2절 인공지능(AI) 13 1. 인공지능(AI)의 정의 13 (1) 우리나라 13 (2) 일본 14 (3) 미국 14 (4) EU 15 2. 인공지능(AI)의 발전과정 15 (1) 태동기 16 (2) 성장기 17 (3) 전성기 18 (4) 인공지능(AI) 발전과 평가 19 3. 인공지능(AI)의 종류 20 (1) 기능적 발전 단계에 따른 분류 20 (2) 기능적 수준에 따른 분류 21 (3) 윤리적 상호작용에 따른 분류 22 4. 인공지능(AI)에 대한 평가 23 제3절 인공지능 로봇 25 1. 인공지능(AI)과 로봇의 융합 25 (1) 기술적 융합 25 (2) 법률적 융합 26 2. 인공지능 로봇의 자율성과 정도 27 (1) 개념적 자율성 27 (2) 기술적·경험적 자율성 28 3. 인공지능 로봇의 자율성 유형 29 (1) 자율주행자동차 29 (2) 자율형 로봇 31 (3) 자율형 무기 32 제2장 인공지능(AI)과 미래 제1절 인공지능(AI)의 의식과 권리 36 1. 인공지능(AI)의 감정 36 (1) 인공지능(AI)의 이해력 36 (2) 인공지능(AI)의 감정 38 (3) 인공지능(AI)의 공정문제 39 2. 인공지능(AI)의 의식과 권리 40 (1) 인공지능(AI)의 의식 40 (2) 인공지능(AI)의 권리 41 3. 인공지능(AI)의 통제문제 42 제2절 인공지능(AI)과 기술적 특이점 43 1. 인공지능(AI)과 기술적 특이점 43 (1) 인공지능(AI)분야에서 특이점 등장 43 (2) 인공초지능의 가능성 44 2. 인공지능(AI)의 기술점 특이점에 대한 시각 45 (1) 낙관론 45 (2) 경계론 46 (3) 신중론 47 3. 인공초지능의 실현 가능성 48 4. 인간 지식의 한계와 미래 50 (1) 인간 지식의 한계 50 (2) 인간 중심의 미래 51 제3절 AI로봇의 사회적 위험 52 1. AI로봇의 진화와 사회적 변화 52 (1) AI로봇의 상용화와 제도적 장치 52 (2) AI로봇과 로봇윤리헌장 53 2. AI로봇의 위험 56 (1) 보안에 관한 위험 56 (2) 사고와 범죄의 위험성 57 (3) 인공지능(AI)과 네크워크의 융합에 따른 위험성 61 제3장 AI로봇의 범죄와 형사책임 제1절 AI로봇과 법제도 66 1. AI로봇과 법제도 66 2. 법적 불확실성의 증대 68 3. AI로봇의 기술과 법제도의 조화 69 제2절 AI로봇의 법인격 70 1. 법적인격의 개념 72 (1) 자연인 72 (2) 법인의 법적인격 74 2. 동물의 법적 지위 76 (1) 「형법」상 지위 77 (2) 「민법」상 지위 78 (3) 특수한 물건으로서 지위 80 3. AI로봇에 대한 법적인격의 부여 방법 81 (1) AI로봇의 자연인격과 법적인격 81 (2) 트랜스휴머니즘적 접근 86 (3) 철학적 접근에서 기술적·법률적 본질의 접근 89 제3절 AI로봇의 행위성 90 1. AI로봇의 행위와 자율성 90 2. AI로봇의 행위능력 92 3. AI로봇의 행위능력 확장 94 제4절 AI로봇의 형사책임 95 1. 자율형 AI로봇의 형사책임 96 (1) 자율형 AI로봇의 과실 법리 96 (2) AI로봇과 허용된 위험의 법리 100 (3) 자율형 AI로봇의 형사책임 가능성 103 2. 비자율형 AI로봇의 형사책임 110 (1) 고의범으로 처벌 가능성 112 (2) 과실범으로 처벌 가능성 113 제5절 범죄의 객체로서 AI로봇 116 1. 보호법익의 확대 116 2. 범죄의 객체로서 AI로봇 117 제4장 AI로봇과 형사사법 제1절 AI로봇과 윤리 120 1. AI로봇과 윤리의 변화 120 2. AI로봇과 윤리의 역할 121 (1) 트롤리의 문제 122 (2) 육교의 문제 123 (3) 다리의 문제 125 3. AI로봇과 윤리적 프로세스 127 (1) 사회적 합의 127 (2) 윤리위원회의 역할 128 제2절 AI로봇과 행정 131 1. AI로봇의 법제도와 정책 131 2. 행정적 규제의 유형과 대응 132 (1) 예방사법으로서의 행정과 AI로봇 132 (2) 사회 안전을 위한 행정과 AI로봇 134 (3) 소비자 안전을 위한 행정과 AI로봇 136 3. 네트워크화에 따른 대응 138 제3절 AI로봇과 형사사법 140 1. 수사 141 (1) 조사(調査) 141 (2) AI가 수사에 협조하는 경우 142 2. 범죄 예측 143 (1) 인공지능(AI)을 활용하는 프로파일링 143 (2) 인공지능(AI)과 빅데이터 145 (3) 인공지능(AI)에 의한 오판 가능성 145 3. 증거 판단 148 (1) 사실과 증거의 관계 149 (2) 증거와 사실의 판단 149 (3) 인공지능(AI)을 활용한 패턴 분석 155 (4) 법의 적용과 판단 156 4. 인공지능(AI)에 의한 재범 예측 158 제5장 국내외의 인공지능(AI)과 법제도 제1절 우리나라 162 1. 「지능형 로봇 개발 및 보급 촉진법」 162 (1) 입법의 배경 162 (2) 주요 내용 163 (3) 대응의 한계 164 2. 「로봇기본법(안)」 165 (1) 입법의 배경 165 (2) 주요 내용 166 (3) 적용의 한계 167 3. 「자율주행자동차 상용화 촉진 및 지원에 관한 법률」 168 (1) 입법의 배경 168 (2) 주요 내용 168 4. 「뇌연구촉진법」 171 제2절 일 본 172 1. AI 개발과 활용 현황 172 2. 정부의 AI 정책 174 (1) 인공지능과 인간사회에 관한 간담회 174 (2) 인간중심의 AI 사회원칙 검토회의 176 (3) AI 네트워크 사회추진회의 등 178 제3절 미 국 180 1. AI 개발과 활용 현황 180 2. 정부의 AI 정책 182 (1) 미국 AI 이니셔티브 182 (2) 국민을 위한 AI 정책 183 (3) AI 시대의 대비 184 3. 법제도적 규제 187 (1) 윤리적 규제 187 (2) 법제도적 규제 189 제4절 EU 191 1. 가입국의 협력 선언 191 2. AI 활용을 위한 제안 192 3. 제도적 규제 193 (1) 윤리적 규제 193 (2) 제도적 규제 194 참고문헌 201 찾아보기 219

서 문 인공지능(AI) 기술의 비약적인 발전으로 고지능형 AI로봇이 상용화되어 사회의 다양한 분야로 광범위하게 확대되고 있다. 또한 자율주행자동차와 수술용 AI로봇 등의 보급으로 인간의 삶은 더 편리해지고 있다. 그러나 다른 한편으로는 인간의 능력을 뛰어넘는 자율적인 AI로봇이 인간의 일자리를 대체하게 되고 더 고도화된 킬러로봇 등이 등장하게 되면 인간의 삶 자체가 위협받고 위험에 빠질 수 있다는 두려움도 있다. 인공지능(AI) 기술의 급속한 발전으로 기대감과 두려움이 공존하고 있는 가운데 각국에서는 인공지능(AI) 기술의 연구개발에 더욱 몰두하고 있고, 정책적으로 그것을 육성하고 있다. 인공지능(AI) 기술이 발전하는 만큼 오작동의 경우나 고성능의 자율형 AI로봇에 의한 범죄 등으로 법익이 침해되는 경우 지금까지 형사사법에서 예상하지 못했던 새로운 문제가 발생한다. 즉 AI로봇의 자율적인 행동에 대한 책임을 누구에게 귀속시킬 것인지는 현행 형사법으로 해결하는 것이 사실상 불가능하다. AI로봇이 새로운 범죄의 주인공으로 등장하는 시대가 다가오고 있지만, 현행 형법의 틀 안에서는 AI로봇에 대한 ‘범죄주체성’을 인정하기가 어려운 실정이다. 이에 저자는 첫째, 법적인격의 확장이나 트랜스휴머니즘적 접근 등 다양한 관점에서 자율형 AI로봇의 법적인격을 인정하는 방법을 제시하였다. 이로써 자율형 AI로봇의 범죄주체성을 인정할 수 있는 토대가 마련되고, 나아가 AI로봇의 행위능력과 책임능력도 인정할 수 있게 된다. 둘째, 자율형 AI로봇이 머지않은 미래에 초래할 위험에 대비하는 방법론을 단계별로 제시하였다. 우선적인 규제의 방법으로는 사회적 합의를 통한 ‘윤리적 규제’를 주장하였다. 주요 국가에서 제정하여 운영하는 ‘윤리적 규제 헌장’ 또는 ‘연구윤리위원회 규범’ 등을 참조하여 AI로봇의 설계자와 이용자의 자격 요건을 규정하고 사회적 합의에 의한 ‘연구윤리위원회’의 구성을 제안하였다. 셋째, 현행 형사사법 제도와 시스템이 특히 자율형 AI로봇의 행동을 규율하고 사회의 안전을 확보하는데 적합한지에 대한 유효성을 검토하였고, 향후 개선 과제와 입법 방향에 대한 의견도 제시하였다. 또한 주요 국가의 인공지능(AI) 정책과 연구개발의 현황, 법정책의 방향 등을 검토하여 우리나라의 법제도에 도입할 가능성 등을 살펴보았다. 나아가 법제도의 개선이나 입법 방향과 관련하여 AI로봇에 대한 일관성 있는 법적 규제와 정책을 추진하기 위하여 통일된 기본법이 필요하다. 거시적인 관점에서는 소위 AI로봇법 총론을 제정하고, 미시적인 관점에서 AI로봇법 각론을 두는 방식의 입법 방향을 제시하였다. 또한 범죄의 발생 이전 단계에서 예방기능을 강화하여 국가기관의 개입을 허용하는 예방적 사법으로서의 법적 규제와 사회 안전을 확보하기 위한 다양한 법적 규제 등에 대한 의견도 제시하였다. 마지막으로 인공지능(AI) 기술발전의 성과를 형사법 분야에서 활용할 수 있는 방법에 대한 의견도 제시하였다. 수사단계에서는 범죄자 프로파일링, 체포·구속 등에 활용, 재판단계에서는 양형과 재범의 예측 등에서, 교정단계에서는 가석방이나 보석 심사 등에 효과적으로 적용할 수 있다고 생각한다. 본 서는 저자의 박사학위 논문인 “AI로봇의 범죄주체성과 법제도적 대응방안에 관한 연구”를 수정·보완한 것으로 향후 좀더 발전적인 연구를 하고자 한다. 마지막으로 저자의 학문적 연구와 서적의 출간에 도움을 주신 용인대학교 박윤규 전 부총장님을 비롯한 은사님들과 선후배님, 그리고 본 서의 출판에 적극적인 지원과 아낌없는 응원을 주신 박영사 손준호 과장님께 감사드린다. 2021년 10월 저자 송기복