인공지능(AI)은 다른 혁신적 기술들과 결합하여 삶의 모든 영역에 전례 없는 기회를 가져올 것을 기약하고 있다. 그러나 이러한 기술들은 특히 인간 정신을 조작할 수 있는 위험성을 내포하고 있어, 심각한 윤리적 문제를 야기하고 있다. 이러한 문제를 해결하기 위한 부문별 규제 노력은 있었으나, AI에 대한 포괄적인 규제 체계는 아직 채택되지 않았다. 다만, 2021년 유럽연합 집행위원회(EU Commission)는 「인공지능법」 초안을 발표하였고, 뒤를 이어 유네스코(UNESCO) 또한 「인공지능 윤리에 관한 권고안」을 채택하였다. 이 책은 인공지능의 미래 규제에 대한 맥락을 제시하며, 특히 잠재의식에 영향을 미치는 기술을 사용하는 AI 시스템의 사용을 금지하려는 계획과 관련된 규제적 도전 과제를 중점적으로 다룬다. AI는 이미 뇌-컴퓨터 인터페이스, 기능적 자기공명영상(fMRI), 로봇공학, 빅데이터 등 다양한 관련 기술들과의 융합을 통해 뇌 스파이웨어를 활용한 “마음 읽기”나 “꿈 해킹”을 가능하게 하고 있으며, 이 밖에도 인지 과정 및 사상의 자유에 침해하는 여러 행위들을 가능하게 하고 있다. 미래의 혁신은 사고와 행동을 조작할 수 있는 가능성을 더욱 확대시킬 것이며, 이는 개인뿐만 아니라 사회 전체에 심각한 해를 끼칠 수 있는 위험이 있다. 잠재적 인식을 통해 인간의 의식을 인지하지 못하는 수준에서 속이고 조작할 수 있는 능력은 법과 민주주의에 커다란 어려움을 야기하며, 사회의 미래에 중요한 질문을 던진다. 이 책은 인지적·기술적·법적 문제들이 본질적으로 연관되어 있음을 보여주며, 법학뿐만 아니라 컴퓨터 과학, 신경과학, 사회학, 정치학, 마케팅, 심리학 등 다양한 학문 분야에 관심을 가진 학생, 학자, 실무자, 정책결정자, 시민 간의 긴급히 요구되는 학제적·국제적 논의를 자극하고자 한다.

역자 머리말 i 머리말 iii 서 론 1 제1장 유럽연합이 제안한 인공지능법 15 제1절 배경과 맥락 18 제2절 잠재의식적 자극 기법을 활용하는 인공지능 시스템의 금지 27 제3절 잠재의식적 요소를 포함한 AI 시스템의 범위와 성격 48 제2장 잠재의식적 지각과 법 63 제1절 동기 연구와 숨겨진 설득자들 65 제2절 잠재의식적 광고를 금지하는 법률 73 제3절 잠재의식적 지각과 감각 : 개별성과 통합 사이에서 88 제3장 잠재의식적 인공지능 시스템의 향후 규제 121 제1절 인공지능 시스템에서 잠재의식적 자극 기법 금지에 대한 재검토 124 제2절 법률에 미치는 보다 광범위한 파급 효과: 인지적 자유권을 향하여 144 제3절 법률 공감각 : 감각의 융합이 법의 통합에도 기여할 수 있는가? 160 결 론 171 색인(한영) - 179 (영한) - 187

오늘날 인공지능은 단순한 도구적 수준을 넘어 인간의 일상적 행위 양식은 물론 사회 제도를 재편하는 핵심 요인이다. 인공지능이 인간의 사고, 감정, 선택에 결정적 영향을 미치고, 특히 잠재의식적 AI 시스템(subliminal AI systems)은 인간이 인지할 수 없는 형식으로 개인의 의사결정 과정과 행동을 조정할 수 있다는 점에서 사회적·법적 논쟁의 중심에 있다. 1990년대 인간 게놈 프로젝트(Human Genome Project)에서와 마찬가지로 AI 정책 프레임워크에서 ELSI(Ethical, Legal and Social Implications) 이슈가 중요한 이유이다. 잠재의식적 AI 시스템은 단순히 외부 환경을 재구성하는 기술이 아니라 인간의 의식 수준에 도달하기 이전의 심리·인지 과정에 개입함으로써 전통적 법규범이 전제하고 있는 “자율적 행위자”라는 개념 자체를 흔들 수 있다. 잠재의식적 AI 시스템은 인간의 존엄성, 사상과 양심의 자유, 개인정보에 대한 자기결정권과 같은 근본적 가치와 직접 맞닿아 있다. 이런 시각에서 우리는 Rostam J. Neuwirth 교수의 저서 「The EU Artificial Intelligence Act, Regulating subliminal AI systems」에 주목하였다. 저자는 잠재의식적 자극 기법을 사용하는 AI 시스템에 대하여 역사, 법, 윤리, 신경과학 등의 여러 핵심 관점에서 논의를 전개하였다. 매우 전문적인 참고문헌을 적절하고 풍부하게 인용하면서도 결코 난해하지 않은 방식으로 간명하게 설명하고 있다. Neuwirth 교수는 일찍이 「Law in the Time of Oxymora: A Synaesthesia of Language, Logic and Law」(Routledge, 2018) 출간을 비롯하여, 법과 언어, 인지, 예술, 문화, 사회, 기술 간의 연관성을 탐구하면서 현대의 글로벌 법적 문제에 천착한 권위자다운 면모를 보여주었다. 저서의 논의는 유럽연합의 「Artificial Intelligence Act, AIA」 제정과 깊은 연관을 가지고 있다. AIA는 AI의 적용에 따른 윤리적, 법적, 사회적 영향에 대응하기 위해 마련된 최초의 포괄적 규범이다. EU는 2021년 4월 집행위원회(EC)의 AI 법안 제안을 시작으로, 2022년 12월 EU 이사회의 검토, 2024년 3월 유럽의회(EP) 통과, 2024년 5월 유럽이사회 최종 승인을 거쳐 현재 단계적으로 AIA를 시행하고 있다. 그런데 저서는 EU 유럽집행위원회(European Commission)의 제안을 바탕으로 EU 이사회(Council of the EU)가 발표한 수정안을 기준으로 서술하고 있다. 이 번역서에서는 이러한 사정을 해당 관련 부분에서 역자주를 통해 원문을 수정·보완하였다. 시간상의 차이에도 불구하고 이 책은 잠재의식적 자극 기술을 활용한 AI 시스템에 관한 논점을 이해하기에 매우 유용한 안내서이다. 잠재의식적 AI 시스템에 관한 논의는 기술 그 자체에 대한 판단이 아니라, 기술을 수용하고 통제하는 사회적·법적 규범의 정당성을 어떻게 확보할 것인가에 관한 물음으로 귀결된다. 이 역서가 다양한 분야의 사람들이 그 해답을 모색하는 유용한 계기가 되길 기대한다. 끝으로, 이 책의 사회적 의미를 깊이 이해하고 적극적으로 출판해 주신 박영사에 깊은 감사를 드린다. 역자를 대표하여 2025년 9월 명 순 구 코로나 19가 팬데믹으로 선언된 지 2년이 지났고, 그동안 바이러스의 확산을 막기 위해 취해진 여러 가지 대응들이 인공지능과 같은 신기술의 사용과 개발을 가속화한 것으로 알려져 있습니다. 또한 이러한 새로운 기술들의 사용은 팬데믹처럼 우리 삶의 공적, 사적 영역의 조직 방식을 급격하게 변화시키고, “새로운 정상”(New normal)을 만들어낸 것으로 보입니다. 하지만 법규범 내에서 이러한 급격한 변화의 깊고 장기적인 효과가 눈에 띄고 이해되는 데에는 일반적으로 시간이 걸립니다. 법은 변화의 대처에 과학, 기술, 언어에 의해 제공되는 초기 경고 시스템으로 큰 이점을 가집니다. 이 세 가지가 결합되어 미묘하거나 잠재의식적인 경향성에 대한 중요한 통찰을 제공하는데, 이것은 언젠가 반드시 그 모습을 드러낼 것입니다. 저는 「Law in the Time of Oxymora: A Synaesthesia of Language, Logic and Law」(Routledge, 2018)를 저술하는 과정에서 이 점에 대한 믿음이 강해졌으며, 2017년 10월 10일 초안이 작성된 이 책의 서문을 최근에 다시 읽었을 때 그 믿음이 확실해졌습니다. “이 세상에서 변화의 복잡성 및 가속화된 변화 속도는 - 마치 새로운 팬데믹처럼 - 법을 위협하며, 특히 법적 확실성과 예측 가능성을 제공하는 수단으로서의 법치주의를 약화시킬 위험이 있습니다.” 그 당시 저는 “팬데믹”이라는 단어가 은유적으로 사용되는 것에 대해 제대로 알지 못했고, 심지어는 진정한 의미에서의 또 다른 세계적인 팬데믹의 발생을 예상하지 못했습니다. 그러나 지금 되돌아보면, 그러한 은유와 모순어법에서 감지된 언어의 변화는 -기술의 변화처럼- 결국에는 드러나게 될 숨겨진 경향성에 대한 신뢰할 수 있는 지표를 제공했음을 깨달았습니다. 미묘한 언어적인 변화는 마치 “잠재의식적 메시지” 또는 “숨겨진 설득자”처럼 기능하는 것 같습니다. 이러한 의미에서 “인공지능”이라는 용어(그리고 신기술들과 관련된 수많은 다른 개념들이)가 반복적으로 모순어법(oxymoron, 역자주: 새로운 기술은 법적 확실성과 안정성을 위협하므로 법과의 관계에서 모순관계에 있음을 뜻함)으로 설명되어 온 것 또한 우연이 아닙니다. 이러한 겉보기상의 우연이 이 책의 바탕이 되는 연구에 대한 저자의 관심을 유발했습니다. 이 연구는 유럽연합의 「인공지능법」(Artificial Intelligence Act) 초안 발표에 의해 영감을 받았으며, 특히 그 법안에서 제안된 “사람의 의식 밖에서 잠재의식적 자극 기법을 사용하는 인공지능 시스템의 사용 금지”에 의해 영향을 받았습니다. 제 견해로는 이 계획된 금지가 인공지능의 향후 규제에 있어 핵심적인 질문을 제시하는데, 왜냐하면 이러한 금지는 신기술들이 다양한 감각 채널을 통해 우리 마음속에 심을 인지적 씨앗에 직접적으로 대응하는 조치이기 때문입니다. 다시 말해 이러한 기술들에 대한 통제는 인간의 마음에 대한 통제를 의미하며, 이 규제가 빅데이터와 다른 기술 및 도구들 또는 응용 프로그램들과 결합할 경우에는 향후 미래에 대한 통제를 의미합니다. 이미 우리는 여러 역사적인 사례를 통해 인지적 변화(cognitive change)는 정치적, 제도적 및 다른 구체적인 변화들이 법과 규제로 발전하여 형성되기 이전에 발생한다는 것을 알고 있습니다. 또한 법은 역설적으로 우리의 사고를 이끌고 행동에 영향을 미치는 “숨겨진” 과정들을 공연히 드러냄으로써 인지적 변화를 이끄는 역할도 합니다. 바로 이 때문에 법은 인공지능이 만들어내는 새로운 가능성들에 적응해야 하고, 이러한 과정은 미래를 예측할 수 있고 심지어 미래를 보여주어 세상을 창조한다고 여겨지는 “디지털 수정 구슬”(digital crystal balls)로 비교되어 왔습니다. 대부분의 새로운 기술들은 소위 “블랙박스 사회” 내에서 우리의 삶을 결정할 뿐만 아니라, 우리 마음의 “블랙박스” 속 깊은 곳까지도 침투합니다. 그러므로 법은 건설적인 반응을 찾는 노력을 시작해야만 하는 것입니다. 이 책은 법과 법적 추론을 위한 새로운 인지적 틀을 찾는 건설적인 노력에 기여하고자 합니다. 모든 관련 사안들의 복잡성을 고려할 때 매우 어려운 과제입니다. 따라서 이 책은 수많은 친구들과 동료들, 그리고 이 책에 인용된 모든 저자들로부터 받은 의견, 도움, 영감, 비판적인 코멘트가 없었다면 불가능한 결과물입니다. Regis De Silva, Pier Luigi Gentili, Sara Migliorini, Tambiama Madiega, Valentin Jeutner, Isselmou Abdarahmane, Risto Uuk, Li Yi에게 이전 버전에 대한 건설적인 의견을 주고, 복잡하고 학제적인 문제들에 대해 더 잘 이해할 수 있도록 도움을 준 것에 대하여 진심으로 감사의 뜻을 전합니다. 그 외에도 M?nica Ari?o, Iris Eisenberger, Danny Friedmann, Alison Harcourt, Alexander Hartl, Stefan Rauschenberger, Nathalie Smuha, Riccardo Vecellio Segate에게 감사의 말씀을 전합니다. 마카오대학교 법학부 Dean Tong Io Cheng, Wei Dan, Augusto Teixeira Garcia, Tu Guangjian, Perumal Ramaswamy, Alexandr Svetlicinii, Zhai Xiaobo, Du Li, Vera Lucia Raposo, Isabel Mousinho de Figueiredo, Celia Filipa Ferreira Matias, Wenhua Xu, Chen Zhijie, Denis de Castro Halis 교수님께도 과거, 현재, 그리고 미래에 걸쳐서 이루어진 많은 유익한 논의들에 특히 감사드립니다. 저는 마카오대학교 인문사회과학 고등연구원(Institute of Advanced Studies in Humanities and Social Sciences, IAS)과 그 연구원들이 Billy K.L. 부총장님이 주재하고 Amy Vong이 세심하게 운영하는 회의에서 학제 간 대화를 촉진하는 데 중요한 역할을 했음을 특별히 강조하고 싶습니다. 또한 저는 IAS의 첫 번째 연례 학술대회인 “학제 간 성찰: 중국 이야기와 예술·과학 간 대화”(Reflections across Disciplines: The China Story and Dialogue between Arts and Sciences)에 참여하면서 중요한 영감을 얻었으며, 특히 Yu Xingzhong 교수님의 “지능형 기술과 법률 간의 대화”(Dialogue between Intelligent Technology and Law) 발표에서 큰 영향을 받았습니다. 마찬가지로 인지 및 뇌과학 연구센터(Center for Cognitive and Brain Sciences, CCBS)의 중요한 조언을 받을 수 있도록 해준 Zhen Yuan 교수님과 Haiyan Wu 교수님의 지원에도 감사드립니다. 마카오대학교에서 지원받은 다년도 연구비(Multi-Year Research Grant)를 통해 “‘과학 소설’로서의 법: AI 및 기타 신기술이 가져올 미래 규제 과제”(Law as ‘Science Fiction’: Future Regulatory Challenges from AI and other New Technologies, MYRG2019-00017-FLL) 연구를 수행할 수 있었음에 감사드립니다. 대학교 외 공동 편집자인 Colin Picker, Junji Nakagawa, Meredith Kolsky Lewis, Peter-Tobias Stoll 및 모든 기여자들에게도 함께 편집한 저서 「A Post-WTO International Legal Order: Utopian, Dystopian and Other Scenarios」(Springer, 2020)에서 영감을 얻어 유토피아적 및 디스토피아적 방식으로 미래 연구에 몰두할 수 있게 된 것에 대해 특별한 감사를 전합니다. 또한 마카오 내 유엔대학교(UNU) 연구소의 Jingbo Huang, Serge Stinckwich, Mamello Thinyane에게도 저를 이 책과 관련된 많은 중요한 행사들에 참여토록 해주신 것에 대해 깊이 감사드립니다. 법과 기술 논쟁뿐만 아니라 법률 공감각(legal synaesthesia) 개념을 뒷받침하는 법률 기호학(legal semiotics) 분야에 중요한 영감을 주신 Keiran Tranter (Law, Technology and Humans 저널의 편집장) 그리고 Anne Wagner와 Sarah Marusek(International Journal for the Semiotics of Law 및 Law and Visual Jurisprudence 도서 시리즈의 편집자)에게도 이 혁신적이고 자극적인 프로젝트에 저를 포함시켜 주신 것에 감사하다는 말씀을 전합니다. 익명의 심사위원들께도 유용한 피드백을 주신 것에 대해 감사드리며, Siobh?n Poole, Sanjo J. Puthumana, Dominic Corti에게도 신속한 출판 과정 진행을 도와주신 것에 대해 감사드립니다. 마지막으로 멀리서나마 저를 항상 지지해 주시는 모든 친구들과 가족들에게도 깊은 감사를 드립니다. 특히 Iris Neuwirth와 그녀의 전체 가족, Olga Neuwirth, G?sta Neuwirth, Harald Neuwirth, Holger Neuwirth, Martin Kleiner, Stefan Meyer, Peter Griss, Robert Schutze, 그리고 Daniel and Brigitte Hollegha에게 감사드립니다. 마찬가지로 저의 배우자인 Pui Mang Cheong과 우리 아이들 Elam J.와 Lea J.에게도 그들의 지원과 영감 덕분에 이 책을 완성할 수 있었음에 깊은 감사를 전합니다. 2022년 3월 20일 마카오에서 Rostam J. Neuwirth