“관계, 직업, 정치, 윤리 등 AI에 대한 다양한 논의를 이끌어낸다!” AI의 방향을 올바로 이끌기 위해 지금 우리에게 필요한 13개의 질문! “AI는 실제로 얼마나 지능적인가?” “AI의 창작을 어떻게 바라봐야 할까?” “AI 앞에서 인간은 스스로를 어떻게 증명해야 할까?” 멀게만 느껴지던 AI를 누구나 손안에서 경험하고 있다. 우리는 지금 또 다른 진화의 문 앞에 서 있다. 그러나 그 문턱을 넘었을 때 어떤 미래가 펼쳐질지 확신할 수 있는 사람은 없다. 그래서 우리에겐 더더욱 제대로 방향을 세워줄 ‘근본적 질문’이 절실하다. 《AI 시대, 우리의 질문》은 AI를 이끌어야 할 우리에게 반드시 필요한 13개의 질문에 관한 이야기다. 비즈니스, 인간관계, 정치경제 그 어느 곳에 AI의 위험이나 부작용이 숨어 있을까? 우리는 어디에서 윤리적 딜레마를 마주하게 될까? 노동시장의 변화, 가짜뉴스, 자율주행 등을 다룰 때 우리가 명확하게 답할 수 있는 건 무엇일까? AI가 하는 모든 일은 우리가 AI를 대하는 방식에 따라 달라진다. 유토피아를 만드는 것도, 디스토피아적 미래를 만드는 것도 모두 인간이다. 인간과 AI의 협력진화를 꿈꾼다면 우리는 지금 무엇부터 이해하고 무엇을 물어야 할까? AI의 위험과 기회를 함께 고민하는 사람을 위한 필독서! 이 책이 기꺼이 이정표가 되어줄 것이다.

저자 : 미리암 메켈 장크트갈렌대학교 커뮤니케이션 매니지먼트 교수. 하버드대학교와 싱가포르, 뉴욕, 빈 등 여러 대학에서 객원교수로 학생들을 가르치고 있다. 독일 최고의 경제주간지 〈비르트샤프츠보헤〉의 편집장으로 일했고, 독일 노르트라인베스트팔렌주 국제미디어부 주무장관과 정부 대변인을 역임했다. 2018년부터 미래 기술을 위한 교육 프로그램 에이다 러닝ada Learning의 CEO를 맡고 있다. 저자 : 레아 슈타이나커 사회학자이자 저널리스트. 프린스턴대학교와 하버드대학교에서 공부했고, 장크트갈렌대학교에서 AI의 사회적 효과를 연구해 박사학위를 받았다. 저널리스트로 일하며 〈비르트샤프츠보헤〉 등의 매체에 글을 기고했다. 독일 매체 〈메디움 마가친〉 선정 2018년 최고의 ‘30세 이하 저널리스트 30인’에 이름을 올렸으며 〈포브스〉에서 유럽 언론매체를 이끄는 ‘30세 이하의 영향력 있는 인물 30인’에 선정되기도 했다. 2018년 미리암 메켈과 함께 에이다 러닝을 공동 설립했다. 역자 : 강민경 대학에서 독어독문학을 전공하고 졸업 후 독일계 회사를 다니며 글밥아카데미 출판번역 과정을 수료했다. 독일 어학연수 후 현재는 바른번역 소속 번역가로 활동 중이다. 옮긴 책으로 《수레바퀴 아래서》《젊은 시인에게 보내는 편지》 《하얀 토끼를 따라가라》 《시간 제어》 《자연은 협력한다》 《두 번째 인류》 《역사의 가치》 등이 있다.

프롤로그: 인공지능의 멀티버스에서 01 AI 마법의 시대: 무엇부터 이해해야 할까? 02 AI에 관한 짧은 이야기: 기계화란 무엇인가? 03 트랜스포머: 신경망은 어떻게 획기적인 발전의 초석이 되었나? 04 AI와 경제성장: AI는 자본주의의 대리자인가? 05 노동시장의 자동화: 주 15시간 노동이 가능해질까? 06 봇과 봇이 대화할 때: AI의 창작을 어떻게 바라봐야 할까? 07 딥페이크와 가짜 정보: 조작의 주체는 누구인가? 08 민주주의 혹은 디스토피아: 정치는 어떻게 변할까? 09 윤리적 거울의 방: AI가 인간의 가치와 목표를 제대로 이해할 수 있을까? 10 결정의 문제: AI는 실제로 얼마나 지능적인가? 11 의식에 관한 궁금증: 인간은 스스로를 어떻게 증명해야 할까? 12 AI 규제에 대한 접근방식: 무엇을 기준으로 해야 할까? 13 다음 유니버스로: 두 가지 시나리오, 우리의 선택은? 에필로그: 언제나 사랑할 것이 있다 주 사진 출처

수많은 가능성을 앞에 두고 늘 이런 질문이 맴돈다. “만약 그렇다면, 어떻게 될까?” 어떤 목적으로든 사용되는 범용 기술인 AI의 세계에서는 “만약 그렇다면, 어떻게 될까?”라는 질문이 인간 스스로를 향한 알고리즘 요청이 될 것이다. 만약 이 기술이 정말로 우리가 몇 년 동안 바라오던 변화의 기회를 가져온다면 어떻게 될까? 만약 우리가 노동뿐만 아니라 지혜까지 자동화한다면 어떻게 될까? 만약 우리가 우리 자신보다 스스로를 더 깊이 이해하는 AI를 만들어낸다면 무슨 일이 벌어질까?
_ 〈프롤로그〉 중에서

챗GPT 같은 도구를 사용하면 수십 년간 침체를 겪은 분야에서도 놀라운 성장이 이루어질 수 있으며, 이는 사회 전체의 생산성 증가로 이어질 것이다. 동시에 우리는 심오한 질문에도 답해야 한다. AI 시스템의 성능이 우리가 생각하는 것보다 훨씬 뛰어난 시대에 인간으로서 산다는 것은 무슨 의미인가? 인간과 기계가 협력해 모든 인간, 단체, 사회 계층에 기회의 문을 열어주려면 어떻게 해야 하는가? AI 시스템이 언제, 어디서, 어떻게 사용될지 여부를 인간이 계속해서 결정할 수 있을 것이라 확신할 수 있을까?
_ 〈AI 마법의 시대: 무엇부터 이해해야 할까?〉 중에서

AI는 분배라는 정의에는 맞지 않지만 정치적 이념을 전부 아우르는 창의적인 아이디어를 개발하는 전략을 선택했다. AI는 이념에 따라 움직이는 대신, 소득을 균등하게 분배하면서 동시에 소득을 전혀 공유하지 않는 사람들을 처벌하는 복합적인 메커니즘을 찾아냈다. 게임 진행 후 최종 투표 결과, 놀랍게도 AI가 제안한 복합적 해결책이 피험자들 사이에서 가장 인기가 높았다. 민주적 AI는 사람들의 다양한 요구와 선호도를 최적으로 조율해 정책 혁신을 사람들이 원하는 가치와 일치시킬 수 있다는 증거를 제시했다. 새로운 AI 도구와 시스템은 앞으로 무엇을 더 촉진할 것인가? 노동인가? 자본인가?
_ 〈AI와 경제성장: AI는 자본주의의 대리자인가?〉 중에서

AI가 다정하고 아는 것이 많은 동반자가 될 수 있다면, 마찬가지로 신뢰할 수 있는 정보의 발신자가 될 수도 있다. 인간과 기계 사이의 상호작용에 관한 실험 121건을 재평가한 연구 결과에 따르면, AI는 사람만큼이나 프로파간다에 뛰어났다. 즉 사람들은 인간지능만큼이나 AI를 신뢰한다. 특히 정보 수신자의 인식과 태도, 실질적인 행동 여부 등으로 인간의 프로파간다와 기계의 프로파간다로 인한 결과를 구분하기는 매우 어려웠다. 이를 가짜 정보에 적용한다면? 인간은 대규모 언어모델을 ‘신뢰할 수 있는 정보를 합법적으로 발신하는 존재’로 볼 것이다. 언어모델이 내놓은 답이 틀린 것이라고 할지라도 말이다.
_ 〈딥페이크와 가짜 정보: 조작의 주체는 누구인가?〉 중에서

미국 유타주에 있는 브리검영대학교의 연구진은 대규모 언어모델이 사소한 인구통계학적 특성을 반영하는 데 얼마나 뛰어난지 밝혀냈다. 언어모델은 왜곡에도 인간의 특성을 충실하게 반영하며 연구 목적으로 실제 사람의 의견을 시뮬레이션할 수 있다. 연구진은 이를 ‘알고리즘적 충실도’라고 불렀다. 이는 과학을 훌쩍 뛰어넘은 깨달음이다. 연구진은 말했다. “생성형 AI가 인구 전체를 똑같이 시뮬레이션할 수 있다면 우리는 더 이상 특정 사회 계층, 유권자, 소비자 등이 무엇을 원하는지 알아보기 위해 실제 사람에게 물어볼 필요가 없다.”
_ 〈민주주의 혹은 디스토피아: 정치는 어떻게 변할까?〉 중에서

AI가 인간의 지능을 모방하고 뛰어넘으려는 것이 과연 가장 중요한 일인가? 우리 인간이 경제적으로 성장하고 사회적으로 더 나아지기 위해 인간의 능력을 확장하려고 새로운 기술을 활용하는 것은 아주 적절하고 합리적인 일 아닌가? 이런 목표를 설정함으로써 우리는 인간이 스스로 그렇다고 주장하는 존재임을 증명할 수 있다. 즉 우리 인간은 스스로를 이성적이고 전략적인 장기적 사고가 가능한 존재이며 전체적인 상황을 조망할 능력이 있고 자기 자신과 다른 사람의 욕구에 대한 감정을 키우고 모든 것이 늘 더 나아지도록 살피는 존재라고 생각한다. “어, 근데 AI가 등장하기 전에도 인간은 그런 존재가 아니었는데요”라고 말하는 사람이 있다면 그 말이 옳다. 하지만 그것은 반론이 아니다.
_ 〈의식에 관한 궁금증: 인간은 스스로를 어떻게 증명해야 할까?〉 중에서

대규모 언어모델이 우리 삶의 모든 의사소통, 모든 활동, 모든 과정에 관여하는 미래를 상상해보자. 그것들이 우리의 데이터로 학습하고 우리가 시키지 않아도 계속 발전해 나간다고 상상해보자. 그 모습이 그려진다면 그 기술에는 엄청난 잠재력이 있다는 뜻이다. 어쩌면 인류의 삶을 ‘모두 불태워버릴’ 잠재력 또한 품고 있는지도 모른다. 맨해튼 프로젝트에 합류했던 과학자들이 때때로 엄청난 두려움을 느꼈던 이유를 짐작할 수 있다. 다시 생각해보자. 이것은 현실적인 평가일까? 우리는 아직 모른다. 현재 우리가 알고 있는 점은 맨해튼 프로젝트가 결국 진행되었다는 사실뿐이다. 연구진과 프랭클린 루스벨트 정부, 그리고 이들을 지원한 영국의 윈스턴 처칠 정부와 캐나다의 윌리엄 라이언 매켄지 킹 정부는 프로젝트를 계속 진행해 결국 폭탄을 실험하기에 이르렀다. “기술적인 관점에서 뭔가 흥미로운 것을 발견했다면 그냥 하면 된다”던 오펜하이머의 말을 따른 것이다.
_ 〈다음 유니버스로: 두 가지 시나리오, 우리의 선택은?〉 중에서

★ 독일 아마존 베스트셀러 “지금 우리가 묻는 질문이 우리의 미래를 결정한다.” AI 세상에서 자신의 역할을 궁금해하는 모든 사람을 위한 책 ‘AI’라는 단어가 이렇게 빠른 속도로 우리 삶에 파고들 줄 누가 알았을까? 오늘과 내일이 다른 이 발전 속도는 또 무엇인가? AI의 놀라운 결과물을 받아 들면서 동시에 우리는 심오한 질문을 떠올리게 되었다. AI의 성능이 우리 예상보다 훨씬 뛰어난 시대에 인간으로서 산다는 것은 무슨 의미인가? AI 시스템을 인간이 계속해서 효과적으로 제어할 수 있을까? 이제 우리의 질문은 단순히 내 일자리가 안전한가를 묻는 수준을 넘어서야 한다. 두 저자는 말한다. “우리의 목표는 AI가 인간을 대신하는 세상이 아니라, 인간을 효과적으로 지원하는 AI를 통해 더 나은 세상을 만드는 것이어야 한다.” 깨달음은 세상을 바라보는 관점을 넓힌다. 내 역할의 본질을 찾으려면 무지부터 극복해야 한다. 지금 제대로 묻고 답해야 한다. “좋은 책은 스스로 질문하고 자기 성찰하도록 만든다.” 차별화된 의견을 만드는 좋은 질문! 이 책은 AI와 관련된 광범위한 주제를 다룬다. “AI의 확산이 사회적으로 어떤 영향을 미칠까?” “교육을 제대로 받지 못한 사람도 AI로 참여의 폭을 넓힐 수 있을까?” “AI 기술이 거대 기술 기업의 권력만 더 키우는 것은 아닐까?” 두 저자는 어느 시나리오가 더 가능성이 높은지 단언하지 않는다. 대신 어느 쪽이든 개발 가능성을 염두에 두고 다양한 영향 요인을 보여준다. 몇 가지의 시나리오, 고려해야 할 요인들을 다방면으로 살펴보는 과정에서 독자는 각자의 방식으로 길을 찾게 된다. 자기만의 통찰력을 갖게 된다. 인공지능의 역사를 필두로 펼쳐지는 부작용과 딜레마, 신뢰성의 이야기는 스토리텔링 방식으로 이어져 별다른 배경지식 없이도 이해가 쉽다. 균형을 유지하면서 광범위한 관점을 제공한다. 인공지능 전반에 걸쳐 탄탄한 지식과 다양한 시각을 열어주는 책! 독일 출간 후 빠르게 베스트셀러 순위에 들어간 이유, ‘독일의 AI 계몽서’라고 불린 이유가 여기에 있다. 관록 있는 커뮤니케이션 학자와 유럽이 주목하는 사회학자가 함께 통찰한 AI의 현재와 미래 커뮤니케이션 매니지먼트학 교수인 미리암 메켈, 사회학자이자 저널리스트인 레아 슈타이나커는 미래 기술을 위한 교육프로그램 ‘에이다 러닝’을 공동 설립했다. AI 없이 미래 교육을 논할 수는 없는 일. 두 저자는 수년간 AI 분야에서 다양한 것을 연구하고 가르치고 실험했다. 전 세계를 종횡무진하며 전문가들을 만났다. 그 경험과 탐구가 이 책으로 엮였다. 두 저자는 한목소리로 말한다. “기계와 그 기계를 운영하는 이들에게 우리의 자유와 자율성을 넘겨주고 불평등한 구조에 갇혀버리는 그런 미래를 미연에 방지하고 싶다.” AI 시스템은 곧 우리 정신세계를 파고들며 인간지능을 시험할 것이다. 우리는 대비해야 한다. 가능한 최선의 방법으로 AI의 모습을 구상하기 위해 다양하게 질문하고 경험해야 한다. 이 책을 끝까지 읽으면 알게 될 것이다. 지금 발전하고 있는 세상에는 우리가 스스로를 인간으로서 새롭게 발견할 수 있는 기회가 숨어 있다. AI가 어떻게 작동하고, 우리가 그것을 어떻게 최대한으로 활용할 수 있는지 이해한다면, 우리는 그 기회를 잡을 수 있다. ★★ 독일 언론과 독자들의 찬사 ★★ “인간적 감성을 잃지 않으면서 AI 세계에서 길을 찾는 사람들을 위한 나침반 같은 책!” “AI가 지배하는 세상에서 자신의 자리를 궁금해하는 모든 사람을 위한 책!” “AI를 연구하고 가르치는 사람으로서 모든 학생에게 추천한다. 기술적 배경지식 없이도 모든 주제에 대해 깊은 이해가 가능하다.” “AI를 주제로 한 탁월한 입문서. 미화하거나 환상을 주는 책이 아니다. 깨달음을 주는 책이다.” “최신 연구와 많은 정보, 철학자들을 소환한 인용문들이 이 걸작을 완성한다.” “AI 전문가가 넘치는 시대에 이렇게 건강한 연구를 통해 얻은 통찰력이라니! 신선한 충격이다.” “큰 힘에는 큰 책임이 따른다는 메시지를 명확하게 전달한다. AI의 윤리적 딜레마와 잠재적 위험을 헤쳐 나가면서 우리 모두의 미래를 위해 현명한 질문을 던진다.”