『인공지능 윤리와 거버넌스』는 〈다가온 미래, 닥쳐온 현실〉, 〈인공지능과 경제 성장: 인공지능은 경제 성장의 촉진제가 될 수 있을까〉, 〈인공지능과 고용시장의 변화〉, 〈알고리즘 매개성과 정치적 양분사회: 기술과 사회심리의 상호작용효과〉, 〈인공지능과 프로파일링 시대〉, 〈인공지능과 젠더차별〉 등을 수록하고 있는 책이다.

저자 : 한국인공지능법학회 〈집필진 약력〉 고학수 저자 고학수는 서울대학교 법학전문대학원(로스쿨) 교수로 재직 중이다. 서울대학교 경제학과에서 학사와 석사 학위를 취득했고, 미국 컬럼비아대학교 로스쿨(J.D.)과 경제학과(Ph.D.)에서 공부하여 각각 학위를 받았다. 공부를 마친 후 미국 월스트리트의 로펌 휴즈 허바드 앤드 리드에서 변호사로 근무한 바 있고, 귀국하여 법무법인 세종에서도 근무하였다. 그 후 연세대학교 법과대학에 재직한 바도 있다. 그 이외에 컬럼비아대학교, 싱가포르국립대학교, 함부르크대학교에서 강의한 경력이 있고, 브뤼셀자유대학교(VUB), UC 버클리, 프라이부르크 고등연구원의 방문학자 경력이 있다. 법경제학, 개인정보보호 및 프라이버시, 빅데이터, 인공지능, IT 정책 등의 영역에 관해 연구하고 강의한다. 현재 아시아법경제학회 회장, 한국인공지능법학회 회장, 서울대 아시아태평양법연구소 소장, 서울대 법과경제연구센터 센터장, 서울대 AI연구원 부원장 등 다양한 역할을 맡고 있다. 구본효 저자 구본효는 자연어 처리(NLP) 연구로 석사학위를 받았으며, 변호사시험에 합격한 이후 개인정보 보호법 등을 중심으로 프라이버시 보호, 인공지능 규제를 연구하고 있다. “국내 웹사이트의 이용자 정보수집 및 트래킹 현황에 관한 분석”을 공동 저술하였고, 개인정보의 이차적 활용, 가명처리, 투명성, 차분 프라이버시 등을 주제로 한 글을 SAPI(서울대학교 인공지능정책 이니셔티브) 이슈페이퍼에 몇 차례 발표하기도 하였다. 김병필 저자 김병필은 전기공학을 전공하고 프로그래머로 근무하다 법에 흥미를 느껴 변호사가 되었다. 국내 로펌에서 근무하면서 인공지능을 적용하여 법률 서비스를 개선하는데 관심을 갖게 되었다. 현재 KAIST 기술경영학부에서 법률 인공지능, 인공지능과 관련된 법제도와 규제에 관해 연구하고 있다. 법과 기술이 다면적으로 상호작용하는 영역에 관심이 많다. 특히 알고리즘의 윤리적 활용, 데이터 보호 및 프라이버시 규제, 인공지능 법률 서비스 및 컴플라이언스 업무에 관심을 갖고 있다. “인공지능과 법”을 공저로 저술하였고, 한국인공지능법학회 총무이사로 활동하면서 여러 정책 쟁점에 관한 자문도 수행하고 있다. 김종윤 저자 김종윤은 법무법인(유한) 태평양 소속 변호사이다. 서울대학교 대학원에서 인터넷 생태계에서의 개인정보 보호, 프로파일링 등에 관하여 연구하고 있으며, 주된 연구 성과로는 “국내 웹사이트의 이용자 정보수집 및 트래킹 현황에 관한 분석”, “국내 모바일 앱 이용자 정보 수집 현황 및 법적 쟁점” 등이 있다. 데이터 경제, 인공지능 등 법률과 기술의 발전이 교차하는 지점에서 새롭게 생겨나는 문제들에 관심을 두고 있다. 김지희 저자 김지희는 KAIST 경영대학 기술경영학부 교수로 경제성장론을 연구하는 경제학자이다. 미국 스탠포드 대학에서 경제학 석사, 경영과학공학(Management Science and Engineering) 박사학위를 받았다. 경제성장이론을 통하여 경제 불평등을 이해하려는 연구를 주로 해왔으며, 인공지능 기술의 발전이 전 세계 각국의 경제 성장과 불평등에 미칠 영향을 연구하는 데에도 관심이 많다. 최근에는 컴퓨터공학자들과 함께 머신러닝을 인공위성사진에 적용하여 여러 경제 지표를 측정하는 융합연구도 진행하고 있다. 박도현 저자 박도현은 현재 서울대학교 AI 연구원 선임연구원이자 서울대학교 컴퓨터공학부에서 ‘AI와 법’ 강의를 담당하고 있다. 서울대학교 경제학부와 법학전문대학원을 졸업하고 제5회 변호사시험에 합격한 뒤 서울대학교 일반대학원에 진학하였고, 법학박사 학위논문 “인공지능과 해악: 창발적 해악론을 중심으로”를 발표하여 제6회 홍진기법률연구상 대상을 수상하였다. “인공지능과 차별(공저)”, “인공지능과 자율성의 역학관계”, “인공지능 윤리규범과 규제 거버넌스의 현황과 과제(공저)”, “인공지능 윤리의 두 가지 가치”, “인간 편향성과 인공지능의 교차”, “신뢰할 수 있는 인공지능의 이론적 고찰” 등의 논문을 학술지에 게재하였고, 저서 『인공지능 원론: 설명가능성을 중심으로』, 『인공지능 시대의 개인정보 보호법』 등을 공저자로 집필하였다. 변순용 저자 변순용은 서울교육대학교 교수로 철학과 윤리학을 강의하고 있다. 독일 칼스루헤 대학교에서 책임윤리학을 주제로 철학 박사학위를 받았고, 현대 실천윤리학 분야를 연구하고 있다. 주요 저역서로는 “인공지능 윤리하다”, “윤리적 AI 로봇 프로젝트”, “삶과 철학 이야기”, “철학·도덕교육의 교수법”, “로봇윤리란 무엇인가”, “음식윤리”, “삶의 실천윤리적 물음들”, “로봇윤리”, “책임의 윤리학” 등이 있다. 이나래 저자 이나래는 법률사무소 블리스의 변호사로서, 주로 스타트업과 핀테크 기업의 법률 이슈에 대해서 법률 자문을 하고 있다. 증권회사, 전자상거래회사, 콘텐츠 플랫폼 회사, 블록체인 회사 등에서 사내변호사로 근무했던 경험을 바탕으로 신규 사업모델과 관련하여 발생하는 법률 이슈에 대해 관심을 가지고 일하고 연구하고 있다. ‘가상통화의 법적 성격에 관한 연구’로 서울대학교 법과대학에서 석사학위를 받았고, 인공지능과 블록체인 등 새로운 기술을 도입함으로 인해 발생하는 법적 이슈에 대해서 공부하며 박사 과정을 공부하고 있다. 그리고 리걸테크와 관련한 연구와 네트워킹 활동을 하고 있으며, ALITA(Asia Legal Innovation and Technology Association)의 운영위원회의 위원과 Legal Hackers Seoul의 조직위원으로 활동하고 있다. 이상용 저자 이상용은 건국대학교 법학전문대학원 교수로서 민법을 강의하고 있다. 서울대학교 법과대학을 졸업하고 판사로 재직하였다. 인공지능법학회 초대 회장과 블록체인법학회 부회장을 역임하였으며 대통령 직속 4차산업혁명위원회 위원 및 개인정보보호위원회 제도혁신자문위원으로 활동하고 있다. 민법 외에도 인공지능법, 정보보호법 등을 연구하고 있다. 주요 논문으로는 “인공지능과 계약법”, “인공지능과 법인격”, “데이터 거래의 법적 기초”, “알고리즘 규제를 위한 지도” 등이 있다. 이선구 저자 이선구는 연세대학교 언더우드국제대학 교수로 재직하면서 과학기술정책과 보건정책을 가르치고 있다. 개인정보의 적절한 활용과 프라이버시 보호에 관한 연구를 하고 있다. 일반적인 개인정보보호뿐만 아니라 스마트헬스케어, 정신보건, 감염병 예방 등 보건의료의 맥락에서 빅데이터를 안전하게 활용하는 법제도에 관한 관심이 많다. 빅데이터에 대한 관심은 최근 인공지능에 관한 연구로 이어져 이에 관한 여러 글을 집필 중이다. 이수형 저자 이수형은 서울대학교 국제대학원 교수로 재직 중이며, 데이터 분석 전문 경제학자이다. 저자는 서울대학교 경제학부를 졸업, 42회 행정고시 재경직 합격 후 1999년부터 2002년까지 기획재정부에서 국제금융 담당으로 근무하였다. 이후 미국 Stanford University로 유학, 경제학 박사를 취득했고, University of Maryland, College Park, 경제학 교수로 근무하다 귀국하였다. 활발한 연구활동으로 인하여 2016년 한미경제학회의 Young Economist Award, 2017년 다산젊은경제학상, 2020년 한국경제학술상 등을 수상한 바 있다. 최은창 저자 최은창은 서울대학교 법과대학원 석사·박사과정을 수료하고 예일대 로스쿨에서 석사(LLM) 학위를 받았다. 옥스퍼드 법대 사회적 법학(Socio-Legal Studies) 센터의 방문학자, 예일대 로스쿨의 정보사회 프로젝트(Information Society Project) 펠로우, 과학기술정책연구원(STEPI) 펠로우로서 연구했다. ITU 아·태지역 최고위교육센터, 이화여대 경영대학원, 고려대학교 국제대학원에서 강의했다. IEEE 표준화 워킹그룹 P7003 ‘알고리즘 편향의 고려’, P7002 ‘데이터 프라이버시 프로세스’에 참여하고 있다. 역서로는『네트워크의 부 』(커뮤니케이션북스 2015),『사물인터넷이 바꾸는 세상 』(한울, 2017),『디지털 문화의 전파자 밈(Meme) 』(한울, 2021), 저서로는『레이어 모델 』(커뮤니케이션북스, 2015),『가짜뉴스의 고고학 』(동아시아, 2020), 공저로는『인공지능 권력변환과 세계정치 』(삼인 2018) 등이 있다. 한애라 저자 한애라는 성균관대학교 법학전문대학원 교수로서 민사소송법을 가르치고 있다. 인공지능과 관련해서는 인공지능이 사법절차와 변호사 시장에 미치는 영향 및 인공지능 윤리 문제에 주로 관심을 갖고 있다. 주요 논문으로는 “법률문서 자동작성 서비스의 규율에 관한 연구”, “‘사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장’의 검토” 등이 있다. 황용석 저자 황용석은 건국대학교 미디어커뮤니케이션학과 교수이다. 전통적인 실험 및 서베이 연구, 정형 및 비정형 빅데이터 분석 등 데이터 분석을 통한 증거기반 디지털정책연구를 수행하고 있다. 사이버커뮤니케이션학회장, 방송통신위원회 미디어다양성위원과 방송시장경쟁상황평가위원, 언론중재위원, 인터넷자율정책기구 정책위원 등을 역임했다. 관련 논문으로 “알고리즘 기반 자동화된 의사결정의 설명 가능성에 대한 연구”, “인공지능 스피커 이용자의 인지지도와 잠재된 프라이버시 인식”, “개인화 서비스 진전에 따른 자동추천 시스템 연구 동향과 방법론적 특성 연구”, “알고리즘 기반 자동 추천 검색어의 표현물적 특성과 법적 쟁점” 등이 있으며, 〈추천시 스템의 편향 보정 및 공정성 보장 방안 연구〉 등의 연구보고서를 발간했다.

Ⅰ. 서 언 다가온 미래, 닥쳐온 현실 2 Ⅱ. AI와 사회변화 01 인공지능과 경제 성장: 인공지능은 경제 성장의 촉진제가 될 수 있을까 8 02 인공지능과 고용시장의 변화 31 03 알고리즘 매개성과 정치적 양분사회: 기술과 사회심리의 상호작용효과 50 04 인공지능과 프로파일링 시대 88 05 인공지능과 젠더차별 120 Ⅲ. AI윤리와 거버넌스 01 인공지능 위험인지의 차이와 거버넌스 146 02 알고리즘의 투명성과 설명 가능성 : GDPR을 중심으로 181 03 인공지능에 의한 차별과 공정성 기준 207 04 인공지능 윤리규범과 규제 거버넌스의 현황과 과제 239 05 자율지능시스템의 윤리인증 프로그램 284 Ⅳ. 결 어 전망과 과제 308

〈머리말〉

인공지능 기술의 역사는 반세기가 넘는다. 하지만 인공지능은 최근 몇 년 사이에 매우 급속한 발전을 이루면서 우리의 일상생활에 직접적인 영향을 끼치기 시작했다. 인공지능의 도입이 활발하게 이루어지고 있거나 그러한 시도가 이루어지고 있는 영역은 학교 입학, 취업, 언론, 소비, 대출, 금융, 의료, 사법, 행정 등 매우 다양하다. 기존의 서비스에도 인공지능 기술을 도입하여 더욱 원활하고 효과적인 서비스 제공이 이루어지도록 하기 위한 노력이 이어지기도 한다. 인공지능의 광범위한 활용이 어떠한 사회 변화를 초래할 것인지 전망하고 어떠한 대응이 필요한지 검토하는 일은 시급한 과제가 되었다.
이 책은 인공지능이 제기하는 여러 도전적 과제들, 특히 기존의 법제도, 윤리, 정책과 관련된 쟁점들을 정면으로 다루고자 한다. 인공지능이 가져올 거시적 사회 변화에 대한 전망을 제시할 뿐만 아니라, 개인의 삶이나 젠더 차별에 미칠 영향도 함께 살펴본다. 나아가 인공지능에 대한 적정한 규율의 방향은 어떠해야 할 것인지 모색하면서, 법제도적 관점과 윤리적 관점을 함께 포함하여 살펴본다. 이제 논의를 시작하는 것이나 다름없기에 아직 만족스러운 결과를 제시할 수 있는 것은 아니지만, 이러한 논의를 통해 인공지능에 대한 적정한 법적·윤리적 규범과 거버넌스 시스템을 찾는 것은 이 책이 그리고 앞으로 이어질 연구가 궁극적으로 지향하는 목표이다.
인공지능이 제기하는 문제를 올곧게 이해하고 그 해법을 찾으려면 융합학문적 접근이 불가피하다. 그래서 이 책은 가급적 다양한 배경을 갖춘 연구자들의 연구를 종합하고자 노력하였다. 법학, 경제학, 윤리학, 철학, 언론정보학 등 여러 관점에서의 접근이 함께 포함된 것은 이 책의 중요한 미덕이다. 하지만 개별 영역마다 앞으로 연구할 분야가 많이 남아 있다는 점을 시사하기도 한다. 우리는 앞으로 지속적으로 연구 성과물을 출간함으로써 그 공백을 차차 메워 나가고자 한다.
이 책은 한국인공지능법학회, AI 정책포럼 및 서울대학교 인공지능정책 이니셔티브의 여러 활동과 관련된 연구자들의 성과를 모은 것이다. 인공지능법학회는 2018년 창립되어 인공지능을 위한 법제도에 관한 활동을 활발히 진행해 오고 있다. 데이터 경제와 개인정보, 인공지능 윤리, 법률 인공지능, 인공지능 시대의 법과 인간에 관한 다양한 학술행사를 진행하고 연구역량을 축적하는 활동을 펼쳐 왔다.
공저자로 참여해 주신 분들 이외에도 이 책이 발간되기 위해 많은 분들이 애써 주셨다. AI 정책포럼이 발족되고 이 책이 출간될 수 있도록 지원한 한국마이크로소프트, 특히 정교화 대표변호사와 조장래 전무님께 깊은 감사를 드린다. 박영사의 윤혜경 팀장님께서는 이 책의 편집을 위해 아낌없는 노력을 기울여 주셨다. 이 책의 구상과 진행 과정에서 지속적인 관심과 도움을 주신 이상용 교수님과 한애라 교수님께 감사를 드리고, 다양한 현실적인 도움을 제공해 주신 서울대학교 인공지능정책 이니셔티브의 임용 교수님, 정종구 변호사, 조상현 변호사, 변우정 팀장님께도 깊은 감사의 뜻을 전한다.

편집자 고학수·김병필