첨단 과학기술의 상징, AI는 과연 인간 존엄성, 공정성, 투명성을 보장하는 민주주의의 도구가 될 수 있을까? 과학기술의 급속한 발달과 함께 모든 것이 진보하고 있지만, 미국과 한국 등 세계 각국의 정치는 갈수록 퇴보 중이라는 비판이 이어진다. 이러한 정치 퇴보의 핵심에는 바로 정치적 양극화가 있으며, AI 등 첨단 과학기술이 주요 배경이라는 설명이 힘을 얻고 있다. 특히 정보기술(IT) 활용이 세계 어느 나라보다 활발한 한국에서 AI가 정치에 미치는 영향은 생각보다 매우 크다. 이에 따라 AI와 민주주의 정치의 관계를 이해하는 것은 정치사회 현상에 대한 올바른 이해의 기본이라고 할 수 있다. AI가 현대 민주주의 정치에 미치는 광범위한 영향과 그 대응에 관한 문제의식에서 출발하여 다양한 논의를 다룬 이 책은 AI 시대를 이끌어가는 관련 종사자를 비롯해 우리 청소년들에게 그 해답을 찾아가는 지침서로 충분히 활용될 수 있을 것이다.

책을 펴내며 1. AI 민주주의 AI가 민주주의를 위협할까 ‘생각하는 기계’는 가능한가 | 사람 중심’: AI의 신뢰와 책임 | 효율성과 위협 사이의 경계 | AI의 영향에 관한 철학적 설명 정치에 대한 AI의 영향 AI 가짜뉴스에 관한 질문 | 민주주의에 미치는 장기적인 영향 | AI 진보의 빛과 그림자 | 윤리적 도전 과제: ‘공정성과 책임 민주주의를 위한 감시 도구 민주적 감시체계가 시급한 이유 | 사회 정의와 평등에 미치는 윤리적 영향 | AI 발전과 인간 자율성의 균형 | 위험 대응을 위한 규제와 민주적 거버넌스 | 철학 · 윤리 · 정치의 통합적 접근 AI와 사법의 통합 사법 시스템과 AI | AI와 사법 통합에 관한 연구 | AI의 이점과 과제 | AI 판사의 가능성 2. AI는 민주적인가 AI와 민주주의 문제 AI와 디지털 권위주의 | 디지털 플랫폼에 의한 민주주의 위협 | 민주주의를 위협하는 AI 기반 허위 정보 | 글로벌 선거 환경과 허위 정보 확산 | 민주주의에 대한 영향력 | 정치 지도자와 소셜미디어 | 소셜미디어 봇과 정치 담론 디지털 플랫폼과 민주주의 디지털 플랫폼과 저널리즘 | 기술 권력 독점, 민주주의 위협 | 언론과 플랫폼의 왜곡된 관계 | 디지털 플랫폼과 언론의 정치화 | 데이터, AI: 감시 자본주의 | 정치적 의견과 온라인 참여 AI와 선거 AI와 민주주의 선거 | AI 기술이 선거에 미칠 영향 | 민주주의를 위협하는 AI 가짜뉴스 | AI의 선거 개입 사례: 타이완 | 딥페이크와 선거 | AI의 부상, 선거 신뢰에 위협 | AI 허위 정보와 민주주의 | 생성형 AI가 선거에 미치는 영향 알고리즘 정치 알고리즘이 만드는 세상 | 알고리즘의 영향력 이해 | 유튜브 알고리즘과 양극화 AI 거버넌스 빅테크와 AI 거버넌스 | 알고리즘 거버넌스 | 빅테크와 AI 통제가 필요한 이유 | 정치와 AI의 만남, 인간 참여의 가치 3. AI의 정치적 문제 가짜뉴스 가짜뉴스의 정치적 영향 정치인, 가짜뉴스, 거짓말 지지층 결집 수단 AI 딥페이크 딥페이크의 위협 | AI 생성 연구, 과학 신뢰성과 사회적 지식 위협 음모론 음모론 정치 | 소셜미디어와 코로나-19 | 음모론 음모론과 인플루언서 4. AI, 어떻게 규제할 것인가 AI와 디지털 플랫폼 규제 디지털 플랫폼 규제는 세계적 추세 | 미국 정부의 규제 강화 | 선거와 AI 규제 | AI 혁명과 새로운 규제 | 미 행정부 AI 정책 차이점과 전망 | EU, AI법 통과 | 미 의회, ‘AI 리터러시 법안’ 발의 | 초지능 AI 위험성 경고 | AI 혁신 전망 AI 규제와 국제 정치 AI 규제 국제 협력 | 플랫폼 규제는 국제적 문제 | 미-중 AI 협력 로드맵 | FBI, 중국의 AI 기술 남용 우려 | 2기 트럼프 행정부의 AI 정책 전망 | 글로벌 AI 경쟁 우위를 위한 전략 | 영국, ‘AI 안전연구소’ 설립 | G7, AI 개발자 윤리 강령 채택 | 스위스, AI 규제에 기술 중립적 접근 | 혁신과 개인 권리 보호의 균형 찾기 | 유럽 데이터 보호청, AI 기업의 개인정보 보호 위반에 문제 제기 AI 규제와 혁신 혁신에 대한 사회적 통제 | 무허가 혁신의 문제 | 규제 초점은 정치적 영향력 제한 | EU-미국, AI 글로벌 거버넌스 협력 강화 | 미 의회의 디지털 규제 기관 설립 법안 | 미국 FTC, 가짜 리뷰 금지법 통과 | 미 법무부, AI 시장 독점 방지 집중 조사 | AI의 급속한 발전과 저작권 갈등 | AI 규제의 핵심 과제 5. AI의 사법적 가능성 정치의 사법화 정치의 사법화란 | 미국 대선 전 ‘대법관 알박기’ | 사법의 정치화 | 견제와 균형의 무시 | AI에 의한 해결 가능성 AI와 법원 법원과 AI의 공존: AI 시대 법적 판단의 역할 | 네덜란드 사법부, IT와 AI 활용 사법 혁신 | AI 기술 확산, 법적 불평등 초래하나 | 사법 분야 AI 도입 가능성과 한계 | AI 판사 대체, 편견 줄이고 공정성 높일까 | 중국, 법정에 AI 로봇 도입 | 법원과 정보기술 | 법원 실무에서의 AI: 윤리적 원칙 | 법원에서 AI를 유용하게 사용하려면 AI 변호사 AI가 변호사를 대체할까 | 법률 분야에서의 AI 활용 가능성 | AI, 법률 서비스 혁신의 핵심으로 부상 주

26쪽_ AI가 민주주의 거버넌스에 본격 도입되면서 기술의 투명성과 책임 확보가 핵심 과제로 떠올랐다. 알고리즘에 기반하는 의사결정이 사회에 미치는 영향을 감시하고 개발자와 정치 행위자의 책임을 묻기 위해서는 공공의 검토와 법적 견제가 가능해야 한다는 지적이 커지고 있다.
이를 위해 정책 차원에서 알고리즘 작동 방식 공개, 데이터 출처 명시, 결정 과정의 문서화 등 투명성 확보를 위한 조치가 필요하다.

43~44쪽_ 과학기술의 발전이 민주주의를 약화할 것이라는 우려가 깊어지고 있다. 반대로 민주주의 발전에 과학기술 발전이 도움이 될 것이라고 주장하는 사람도 많지만, 이들 또한 최근의 추세와 관련해 우려하는 부분이 있다. 이러한 우려는 대부분 개인의 자유, 개인정보 보호 등의 문제와 관련되어 있다. (……) 과학기술은 어떻게 사용하고 누가 통제하느냐에 따라 민주주의를 개선하거나 약화할 수 있다. 현재 과학기술은 소수에 의해 통제되고 있다. 소수는 자신이 가지고 있는 통제 권력을 나누려고 하지 않는다. 강한 권력이 소수의 손에 집중될 때 그 결과가 어떠한지는 역사를 통해 잘 알고 있다.

71~72쪽_ 생성형 AI에 의한 콘텐츠는 정치 이슈에 대한 합의 조작, 정부 대응력 약화, 여론 혼란과 분열, 유권자 현혹, 선거에 대한 신뢰 약화 등을 이전보다 더 쉽게, 더 적은 비용으로 가능하게 한다. 이러한 시도는 새로운 것이 아니며 이전부터 계속된 문제들이다. 그러나 새로운 기술은 이전과 비교할 수 없는 양과 질의 콘텐츠로 민주적 담론을 훼손할 수 있는 잠재력을 가지고 있다.

101~102쪽_ 미국과 EU가 AI 기술을 기반으로 하는 빅테크에 대한 규제를 강화하는 이유는 무엇보다 기업의 독점적 지위를 이용한 불공정 행위를 막기 위함이다. 빅테크에 대한 미국과 EU의 규제 노력은 이미 몇 년 전부터 본격화했다. 특히 EU는 빅테크가 반독점 행위를 거듭하면 ‘기업을 해체(break -up)’한다는 내용의 규제법을 추진하기도 했다. 그런데 최근 들어 미국과 EU가 빅테크에 대한 규제의 강도를 더욱 높이는 이유는 기존 반독점 정책과는 차원이 다르다.
미국과 EU는 빅테크를 ‘새로운 최강의 독재자’로 인식하고 있다. 국가와 정부 권력을 머지않아 대체할 만한, 아니 이미 국가와 정부의 힘을 능가하는, 심지어 정부와 대통령을 선택할 수도 있는 힘을 가진 독재 권력이라는 것이 현재 미국과 EU의 빅테크에 대한 인식이다. 그리고 이러한 인식을 더욱 강화하는 배경에는 빅테크를 중심으로 AI 기술에 의한 ‘알고리즘 거버넌스(algorithmic governance)’가 부상하고 있다는 사실이 있다.

122~123쪽_ 선전, 허위 정보, 조작 등은 인류가 시작된 이래 필수적인 정치 도구였다. 그러나 (가장 중요한) 연결성, 점점 더 저렴한 모바일 컴퓨팅, 그리고 지난 몇 년간 엄청나게 급증한 데이터의 이용 가능성 등은 예전에는 생각할 수 없었던 수준의 잘못된 정보 확산과 각 개인에 맞춘 조작을 가능하게 했다. 정책결정자와 사회 구성원은 뒤늦게 문제의 심각성을 깨달았다.
‘거짓말쟁이의 배당금(liar’s dividend)’이란 가짜뉴스, 허위 정보, 조작된 콘텐츠 등의 확산으로 진실과 거짓을 구별하기 어려운 상황에서 사람들이 점점 더 진실을 믿지 못하는 현상을 말한다. 정보가 지나치게 많이 제공되는 현대사회에서 거짓 정보가 진실처럼 유통되고, 정치권·기업 등 특정 집단이나 개인은 이러한 환경을 자신에게 유리하게 이용하고 있다. 특히 디지털 기술과 소셜미디어의 발달로 인해 이러한 상황은 더욱 심각해졌다.

156쪽_ 인터넷 등 온라인 통신 시스템은 오랫동안 미국 민주주의에 필수적이었다. 그런데 구글, 페이스북, 아마존 등의 독점적 지위는 이 기업들을 하나의 독점적 권력, 나아가 국가 권력을 위협하는 존재로 만들었다. 페이스북 창업자 마크 저커버그는 “여러 면에서 페이스북은 전통적인 회사라기보다는 정부에 가깝다”라고 말한 적이 있다. 그의 말은 사실이었으며, 다른 주요 플랫폼도 이제 비슷한 역할을 하고 있다. 그러나 효과적인 규제가 없는 상황에서 그들의 통치는 민주주의가 아닌 독재 지배와 유사하다.

177쪽_ AI에 대한 규제 강화 움직임은 이미 세계적 추세가 되었다. 국가 권력과 세계 안보에까지 영향을 미칠 수 있는 AI의 영향력에 대응하기 위해 미국, EU 등 주요 국가들은 AI 대응 역량 강화에 힘을 쏟고 있다. 이 문제는 정부와 기업 사이의 문제에서 정치권 전반, 범국가적 이슈로서 그 범위와 중요성이 급속히 확대되고 있으며, 특히 이는 한 국가를 넘어 국제적인 문제가 되고 있다.

224쪽_ 정치의 사법화는 국가의 주요한 정책 결정이 정치과정이 아닌 사법과 정으로 해소되는 현상을 일컫는다. 그 현대적 성격을 분명히 하기 위해 좀 더 엄격히 정의하면, 전통적으로 정치 문제로 여겼던 국정 현안을 사법 권력이 법의 논리체계에 기반하여 해결하려는 경향을 의미한다.

257쪽_ 법률업계에서 AI 도입은 효율성과 생산성을 높이는 동시에 변호사가 윤리적 의무를 지킬 수 있도록 돕는다. 즉 AI는 반복적인 법률 조사와 문서 분석 시간을 단축해 변호사가 더 많은 고객을 돕고 주요 법률 업무에 집중할 수 있게 한다. 전문가들은 AI가 사람의 업무를 대체하는 것이 아니라 지원하는 도구로, 특히 법률 서비스의 질을 높일 수 있다고 생각한다.

AI를 둘러싼 과학기술의 혁신적 발달과 민주주의의 정치 관계를 제대로 들여다보다! 우리는 AI 시대에 살고 있다. 지난날 세 차례의 산업혁명보다 빛의 속도로 진화하고 있는 4차 혁명의 핵심인 AI는 우리 생활 곳곳에 스며 있다. 자율자동차는 물론, 로봇 청소기, 냉장고, 에어컨, 세탁기 등 가전제품에도 AI 기술을 접목하여 인간의 수고로움이 한결 줄어들었다. 어디 그뿐이랴. SBS-TV의 한 예능프로그램에 심심치 않게 등장하는 ‘쪼꼬미’라는 AI 로봇은 얼굴 인식과 음성 인식을 탑재하여 인간과 맞춤 대화가 가능하다. 또한 의료계와 법조계, 군사 분야 등 다양하게 활용되고 있다. 이렇듯 첨단 과학기술의 산물인 AI가 우리의 생활에 획기적인 혜택을 가져다준 반면, AI를 이용해 특정 인물을 특정 영상에 합성한 딥페이크(deepfake) 동영상으로 사실을 왜곡하거나 허위 정보와 가짜뉴스로 극심한 정치 양극화를 불러일으켜 정치사회적으로 큰 문제가 되고 있으며 민주주의에 위협을 가하고 있다. 현재 미국 워싱턴 DC에 거주하면서 한국과 미국의 정부 기관 정책 분석 프로젝트를 수행하고 자유 기고가로 활동하는 정치학 박사 박재형은 2022년 《AI는 중립적인가? _과학기술과 정치》에 이어, AI가 현대 민주주의 정치에 미치는 광범위한 영향과 그 대응에 관한 문제의식과 함께 AI 등 과학기술의 혁신적 발달과 민주주의의 관계를 이해하려는 목적에서 《AI는 민주주의 도구일까?》를 펴냈다. 그는 이 책을 쓰게 된 배경을 이렇게 밝힌다. 이 책은 정치사회 현상에 대한 이해력을 높이려는 목적으로 집필했다. 과학기술의 급속한 발달과 함께 모든 것이 진보하고 있지만, 미국과 한국 등 세계 각국의 정치는 갈수록 퇴보 중이라는 비판이 이어진다. 이러한 정치적 퇴보의 핵심은 갈수록 깊어지는 정치적 양극화이며, AI 등 첨단 과학기술이 그 주요 배경이라는 설명이 힘을 얻고 있다. 특히 정보기술(IT) 활용이 세계 어느 나라보다 활발한 한국에서 AI가 정치에 미치는 영향은 생각보다 매우 크다. 이에 따라 AI와 민주주의 정치의 관계를 이해하는 것은 정치사회 현상에 대한 올바른 이해의 기본이라고 할 수 있다. 저자는 이 책에서 다양한 사례와 정치사회적 배경 등은 거의 미국 상황을 중심으로 다루었다. 그 이유는 정치적 혼란과 양극화가 깊어지는 한국의 정치 상황을 주요 배경으로 한다면 저자의 의도와 상관없이 자칫 정치적 논쟁으로 이어질 우려가 있어 되도록 한국의 정치 상황 관련 내용은 다루지 않았으며, 더 나아가 우리의 청소년을 비롯해, 일반인까지 아우르는 폭넓은 독자층을 위한 배려이기도 하다. 이 책은 AI를 민주주의 도구로써 어떻게 활용해야 하는지가 핵심이다. 결론적으로 말한다면, AI 모델은 투명해야 하고, 그 결정은 설명 가능해야 한다. AI 시스템의 영향을 받는 사람은 왜 특정 결정을 내렸는지 이해할 수 있어야 하며, AI는 모든 개인을 공정하게 대해야 하고, 차별적 결과를 초래할 수 있는 편견을 피해야 한다. 아울러 AI 도구는 사용자의 개인정보와 개인 데이터를 존중해야 한다. 여기에는 데이터를 보호하는 것뿐만 아니라 데이터 사용 방식을 통제할 수 있는 사용자의 권리 존중도 포함된다. 이처럼 AI가 민주정치에 미치는 영향은 단순한 기술 문제가 아니라 인간 사고의 본질과 정치적 권한의 정당성에 대한 철학적 질문으로 이어진다. 인간 이성의 한계를 보완할 도구가 될 것인지, 아니면 민주주의의 기초를 흔드는 존재가 될 것인지는 앞으로의 사회적 선택에 달려 있으며, 독자들이 이 점에 유념해서 이 책을 읽어 내려가면 AI와 민주주의의 상생을 충분히 이해할 수 있는 기회가 될 것이다. AI가 인간 사회에 어떻게 긍정적으로 기여할지, AI 시대에 걸맞은 담론을 펼치다! 전 세계적인 AI의 기술 확산으로 지금 우리는 민주주의 체계에 관해 기술적 설계뿐만 아니라 철학적·윤리적 기준을 함께 고민해야 하는 시대에 접어들었다. 또 데이터를 기반으로 텍스트, 이미지, 오디오, 비디오 등 새로운 콘텐츠를 생성하는 데 초점을 맞춘 대규모 AI 모델을 기반으로 한 챗GPT 등 생성형 AI는 드러나지 않는 상태에서 엄청난 양의 콘텐츠를 만들어냄으로써 미디어 환경, 인터넷, 정치 대화 등에 의미 없는 말들을 넘쳐나게 할 수 있다. 게다가 AI 기업 빅테크의 개인정보 보호 위반은 물론, 지적 재산권 갈등 등 AI 규제와 혁신 등의 과제도 만만치 않은 문제로 부상하고 있다. 따라서 앞으로 AI가 인간 이성의 한계를 보완할 도구가 될 것인지, 아니면 민주주의의 기초를 흔드는 존재가 될지는 사회적 선택에 달려 있다. 이러한 한계를 극복하려면 민주적 감시체계가 필요하다. 이에 따라 독립된 규제 기관을 설립하고, 시민사회와 정부 감시단이 기술 정보를 실제 감시와 대응으로 전환할 수 있도록 디지털 리터러시 교육을 강화해야 하고, 또한 책임 구조도 강화되어야 한다. AI를 이용한 편향 콘텐츠 확산, 선거 결과 조작 등에는 명확한 법적 책임이 수반되어야 한다. 이는 민주주의의 윤리적 기준을 지키기 위한 최소한의 장치다. 궁극적으로는, 기술의 이점을 살리되 시민의 공정한 참여와 알 권리를 침해하지 않는 포괄적 규제 체계가 필요하다. AI의 진보가 민주주의의 근간을 흔들 수 없도록, 민주적 통제력은 기술 발전만큼이나 빠르게 진화해야 한다. 결국 이 책의 핵심 내용은 민주주의의 근간을 유지하는 일은 단지 기술의 진보를 따라잡는 것이 아니라, 그 진보를 민주적 가치와 조화시키는 집단적 노력에 달려 있다는 것이다. AI가 인간 사회에 긍정적으로 기여할지의 여부는 기술 그 자체보다 인간이 어떤 철학과 윤리를 가지고 그것을 운용하느냐에 따라 민주주의 도구로써 그 역할을 다할 수 있을 것이다. 모두 5장으로 이루어진 이 책은 1. ‘AI 민주주의’로 시작한다. AI가 과연 민주주의를 위협할지에 대한 의문에서 출발하여 정치에 대한 AI의 영향, 민주주의를 위한 도구로써 AI, 그리고 AI와 사법의 통합을 다룬다. 2. AI는 민주적인가’에서는 AI와 민주주의 문제, 디지털 플랫폼과 민주주의, AI와 선거, 알고리즘 정치, 빅테크를 둘러싼 AI 거버넌스를 살펴본다. 3. ‘AI의 정치적 문제’에서는 가짜뉴스, 이를 지지층 결집 수단으로 삼는 정치인, AI 딥페이크, 인플루언서와 결합한 음모론이 펼쳐진다. 4. ‘AI, 어떻게 규제할 것인가’에서는 AI와 디지털 플랫폼 규제, AI와 국제 정치, AI 규제와 혁신을 밀도 있게 다룬다. 5. ‘AI의 사법적 가능성’에서는 견제와 균형을 무시하는 정치의 사법화에서 AI를 활용한 해결 가능성, AI와 법원, 법률 서비스 혁신의 핵심으로 부상한 AI 변호사를 살펴본다. AI는 민주주의를 효율적으로 보완할 수 있지만 동시에 알고리즘 편향, 잘못된 정보 확산, 여론 조작 등의 위험으로 인해 민주주의를 위협할 수 있다. 이처럼 AI는 민주주의를 위한 도구이자 동시에 위험 요소로 작용할 수 있어 사회적 선택과 규제의 중요성이 커지고 있다는 점에서, 이 책은 앞으로 AI 시대를 살아갈 우리 모두에게 많은 생각과 고민 그리고 그 해결 방안을 세우는 데 많은 도움이 되리라 기대한다.