인간을 초월하는 인공지능을 예언한 세계적인 미래학자, 레이 커즈와일의 특이점 논쟁 20년 만의 종결편! “특이점이 가까워졌다. 어느 쪽인지는 불확실하다(near the singularity; unclear which side).” - 샘 알트먼 오픈 AI CEO “우리는 특이점의 ‘사건의 지평선’ 위에 있다(We are on the event horizon of the singularity).” - 일론 머스크 테슬라 CEO 전 세계가 기다려 온 레이 커즈와일의 신작 《마침내 특이점이 시작된다》가 출간되었다. AI의 놀라운 진전이 연일 세상을 놀라게 하는 가운데, 출간 즉시 베스트셀러에 오른 이 책에서 커즈와일은 오늘날 이미 현실이 된 그의 예측을 재평가하는 한편, 인간의 삶을 영원히 바꿀 ‘특이점’을 향한 발전의 다양한 사례를 제시한다. 1990년 《지적 기계의 시대》에서 인간의 지능을 넘어설 인공지능을 처음 언급하고 1999년 《21세기 호모 사피엔스》에서 AI가 결국 의식을 갖게 될 것이라 했을 때, 대다수의 학자들은 그의 주장이 최소 100년 이상 걸리리라 추정했다. 당시 대중에게 AI는 미지의 미래였다. 그러나 인공지능이 세상의 거의 모든 변화를 주도하고 있는 지금 젠슨 황, 일론 머스크 같은 실리콘밸리 빅테크 기업의 리더들을 필두로 커즈와일의 특이점 예측을 재주목하는 움직임이 일고 있다. 신체 기능을 증강해 생물학적 한계를 뛰어넘는 수명 연장, 뇌를 클라우드에 연결해 수백만 배의 인지 능력을 실현하는 미래, 기하급수적으로 발전하는 기술이 사회 문제를 해결하는 방식, 인공지능이 고용과 노동, 그리고 부에 미칠 영향, AI 윤리와 관련한 철학적 논쟁까지 폭넓게 다루는 이 책은 변화의 지평에서 인류가 마주해야 할 질문들도 촘촘하게 던진다. 나는 누구이며, 의식이란 무엇인가? 인간의 지능은 AI와 결합해 어디까지 확장할 수 있을까? 그로 인해 변화할 인류라는 종의 미래를 우리는 어떻게 바라볼 것인가? 생물학적 한계를 초월해 끝없이 진화할 인류의 미래가 점차 현실화되는 지금, 다가올 세상을 준비하기 위한 최고의 통찰이 이 책에 담겨 있다.

감수의 글 머리말 제1장 우리는 여섯 단계 중 어디에 있는가? 제2장 지능의 재발명 지능의 재발명은 무엇을 뜻하는가 | AI의 탄생 | 소뇌: 모듈러 구조 | 신피질: 스스로 수정하는 계층적이고 유연한 구조 | 딥러닝: 신피질의 능력을 재현하다 | 여전히 AI에게 필요한 것은 무엇인가? | 튜링 테스트 통과 | 신피질을 클라우드로 확장하다 제3장 나는 누구인가? 의식이란 무엇인가 | 좀비와 감각질 그리고 의식의 어려운 문제 | 결정론, 창발, 자유 의지 딜레마 | 자유 의지를 가진 뇌가 여럿이 될 수 있을까? | 의식이 있는 ‘두 번째 나’는 정말 나일까? | 불가능에 가까운 존재 | 애프터 라이프 | 나는 어떤 사람이 될 수 있을까? 제4장 삶은 기하급수적으로 개선되고 있다 대중의 견해는 실제 통계와 왜 다른가 | 실제로 기술은 삶의 거의 모든 측면을 개선해왔다 | 문해력과 교육 | 수세식 화장실, 전기, 라디오, 텔레비전, 컴퓨터 보급 | 기대 수명 | 빈곤 감소와 소득 증가 | 폭력 감소 | 재생 에너지의 성장 | 민주주의의 확산 | 이제 우리는 기하급수적 성장의 가파른 구간에 들어섰다 | 화석 연료의 완전한 대체 단계에 접근하다 | 모든 이에게 깨끗한 물을 | 수직 농업과 토지 해방 | 제조와 분배에 혁명을 가져올 3D 프린팅 | 3D 프린팅으로 만든 건물 | 2030년경 우리는 수명 탈출 속도에 도달한다 | 급격히 솟아오르는 밀물 제5장 일자리의 미래: 좋은 쪽 혹은 나쁜 쪽? 현재의 혁명 | 파괴와 창조 | 이번에는 다를까? | 그래서 우리는 어디로 가고 있는가? 제6장 향후 30년의 건강과 안녕 2020년대: AI와 생명공학의 결합 | 2030년대와 2040년대: 나노기술의 개발과 완성 | 건강과 수명 연장에 응용되는 나노기술 제7장 위험 약속과 위험 | 핵무기 | 생명공학 | 나노기술 | 인공 지능 제8장 카산드라와 나눈 대화 감사의 말 부록: 계산의 가격 대비 성능, 1939~2023년 도표 출처 주 찾아보기

“2030년대에는 자율 성장형 AI와 나노기술의 발전으로 인간과 기계가 유례없는 수준으로 결합되고, 그와 동시에 기대와 위험이 더욱 크게 부각될 것이다. 만약 이러한 발전이 제기하는 과학적, 윤리적, 사회적, 정치적 도전 과제에 우리가 잘 대응한다면, 2045년 무렵에 지구에서의 삶은 훨씬 더 나은 쪽으로 변화할 것이다. 반대로 실패한다면, 우리의 생존 자체가 위험에 처할 수 있다. 따라서 이 책은 특이점에 대한 우리의 최종적인 접근법을 다룬다. 즉, 우리가 알고 있는 세계의 마지막 세대로서 우리가 함께 맞닥뜨려야 할 기회와 위험을 다룬다.” ? ‘머리말’ 중에서

“지금 인류는, 일부 과제에서 첨단 기술이 우리가 이해 가능한 수준을 넘어서는 결과를 이미 내놓고 있는 네 번째 시대에 살고 있다. AI가 아직 완전히 통달하지 못한 튜링 테스트의 여러 측면에서도 갈수록 가속화되는 진전이 빠르게 일어나고 있다. 내가 2029년으로 예상한, 튜링 테스트 통과가 일어나는 바로 그 순간에 우리는 다섯 번째 시대에 진입할 것이다. 2030년대에 완성될 한 가지 핵심 능력은 우리 신피질의 위쪽 영역을 클라우드에 연결하는 것으로, 그렇게 되면 우리의 사고가 직접적으로 크게 확장될 것이다. 이제 AI는 경쟁자라기보다는 우리 자신의 확장된 일부가 될 것이다.” ? 제1장 ‘우리는 여섯 단계 중 어디에 있는가?’ 중에서

“오늘날 배우는 자신의 캐릭터가 생각하는 바를 말이나 겉으로 드러나는 신체적 표현으로만 전달할 수 있다. 하지만 우리는 결국 제대로 조직되지 않고 말로 표현되지 않은 캐릭터의 원초적인 생각을 직접 우리 뇌로 전달하는 예술에 접하게 될지도 모른다. ‘뇌-컴퓨터’ 인터페이스는 우리에게 바로 이와 같은 문화적 풍요로움을 가져다줄 것이다. (중략) 이 기술은 우리가 만들고 있는 초지능과 우리를 융합하게 해줄 것이기 때문에, 우리는 사실상 자신을 다시 만들게 될 것이다. 머리뼈라는 울타리에서 해방되어 생물학적 조직보다 수백만 배 더 빠른 기질에서 처리함으로써 우리 마음은 기하급수적으로 성장할 힘을 얻게 될 것이며, 궁극적으로 우리의 지능은 수백만 배나 팽창할 것이다. 이것이 내가 정의하는 특이점의 핵심이다.” ? 제2장 ‘지능의 재발명’ 중에서

“특이점은 이 모든 한계로부터 우리를 해방시켜줄 것이라고 약속한다. 수천 년 동안 인류는 우리가 어떤 사람이 될지 결정하는 과정을 통제하는 힘이 점점 더 커져왔다. 의학은 부상과 장애를 극복하는 데 도움을 주었다. 화장품은 개인적 취향에 따라 외모를 가꿀 수 있게 해주었다. 많은 사람은 심리적 불균형을 바로잡거나 다른 의식 상태를 경험하기 위해 합법적 또는 불법적 약물을 사용한다. 정보에 더 광범위하게 접근할 수 있는 능력은 우리의 마음을 풍요롭게 채우고, 뇌를 물리적으로 재구성하는 정신적 습관을 형성하게 해준다. 예술과 문학은 한 번도 만난 적이 없는 사람들에게 공감을 느끼게 하고, 우리의 미덕이 성장하도록 도울 수 있다. (중략) 뇌를 직접 프로그래밍하는 날이 오면, 우리 자신을 얼마나 더 나은 상태로 만들 수 있을지 상상해보라.” ? 제3장 ‘나는 누구인가?’ 중에서

“어떤 사람들은 형평성과 불평등 문제를 우려한다. 이러한 수명 연장 예측에 대해 보편적으로 제기되는 비판은 오직 부자만이 급진적 수명 연장 기술의 혜택을 누리리라는 주장이다. 이에 대해 나는 휴대폰의 역사를 돌아보라고 말한다. 30년 전만 해도 정말로 부자만 휴대폰을 소유할 수 있었는데, 그 휴대폰은 성능도 그리 뛰어난 것이 아니었다. 지금은 수십억 명이 휴대폰을 소유하고 있으며, 그것으로 단지 전화를 거는 데 그치지 않고 많은 일을 한다. 이제 휴대폰은 거의 모든 인간 지식에 접근할 수 있는 기억 확장 장치가 되었다. 이런 기술은 처음에는 가격은 비싸고 성능은 제한된 상태로 시작한다. 그리고 성능이 완성될 무렵에는 거의 모든 사람이 소유할 수 있는 수준으로 가격이 떨어진다. 그 이유는 정보 기술의 고유한 특성인 가격 대비 성능의 기하급수적 향상에 있다.” ? 제4장 ‘삶은 기하급수적으로 개선되고 있다’ 중에서

“미래를 생각할 때, 인간이 AI로 구동되는 기계와 경쟁하는 세계를 상상하는 것은 잘못된 사고방식이다. 설명을 위해, 시간 여행자가 2024년의 스마트폰을 들고 1924년으로 돌아간 상황을 상상해보자. 캘빈 쿨리지 시대 사람들에게 이 사람의 지능은 실로 초인적으로 보일 것이다. 그는 고등 수학 문제를 척척 풀고, 주요 언어를 꽤 잘 번역하고, 그랜드마스터보다 체스를 잘 두고, 위키백과의 모든 정보를 활용할 수 있다. 1924년 사람들에게 시간 여행자의 능력은 스마트폰 때문에 엄청나게 강화된 것으로 보인다. (중략) 풍요로운 미래의 인지적 도전 과제에 맞닥뜨릴 때에도, 우리가 오늘날 스마트폰과 경쟁하지 않는 것과 마찬가지로 대개의 경우 우리는 AI와 경쟁하지 않을 것이다.” ? 제5장 ‘일자리의 미래: 좋은 쪽 혹은 나쁜 쪽?’ 중에서

“의학이 전문 지식을 다음 세대에 전수하는 인간 의사들과 힘든 실험실 실험에만 의존했을 때에는 혁신이 느리고 선형적으로 발전했다. 하지만 AI는 인간 의사보다 더 많은 데이터로 학습할 수 있고, 인간 의사가 평생의 경력 동안 경험하는 수천 건의 절차 대신에 수십억 건의 절차로부터 경험을 쌓을 수 있다. 그리고 AI는 기본 하드웨어의 기하급수적 개선으로부터 혜택을 받기 때문에, AI가 의학에서 차지하는 역할이 커질수록 보건 서비스 분야에도 기하급수적 혜택이 돌아갈 것이다. 이 도구들을 사용해 우리는 이미 생화학적 문제에 대한 답을 찾고 있으며, 가능한 모든 선택지를 디지털 방식으로 검색하면서 몇 년 대신에 몇 시간 만에 해결책을 찾아내고 있다.” ? 제6장 ‘향후 30년의 건강과 안녕’ 중에서

“자유 시장 원리에 기반을 둔 낙관적인 주장에 따르면, 초지능을 향한 각각의 단계는 시장의 수용에 좌우될 것이라고 한다. 다시 말해서, 일반 인공 지능은 실제 인간의 문제를 풀기 위해 인간이 만들 것이며, 그것을 유익한 목적을 위해 최적화하려는 강력한 동기가 존재한다. AI는 고도로 통합된 경제 인프라에서 나타나고 있기 때문에 우리의 가치를 반영할 수밖에 없는데, 중요한 의미에서 AI는 바로 우리 자신이 될 것이기 때문이다. 우리는 이미 ‘인간-기계’ 문명 시대에 접어들었다. 궁극적으로는, AI를 안전하게 만들기 위해 가장 중요한 접근법은 인간의 관리와 사회 제도를 보호하고 개선하는 것이다. 미래에 파괴적 갈등을 피하는 최선의 방법은 수백 년에서 수십 년 동안 이미 폭력을 크게 감소시킨 우리의 윤리적 이상을 계속 발전시키는 것이다.” ? 제7장 ‘위험’ 중에서

◆ 유발 하라리, 빌 게이츠, 궤도, 하정우 강력 추천! ◆ 출간 즉시 〈뉴욕 타임스〉 베스트셀러! ◆ 《포브스》 선정 올해의 필독서! 특이점을 향해 수천 년을 걸어온 인류는 이제 막 전력 질주 구간에 진입했다! “궁극의 사고 기계”, “지칠 줄 모르는 천재”, “AI 분야에서 가장 영향력 있는 인물”, “미국의 가장 위대한 지성”, “21세기 에디슨”... 세계적인 미래학자 레이 커즈와일을 수식하는 말이다. 20년 전 《특이점이 온다》에서 생명공학과 나노기술, 그리고 로봇 공학의 혁신이 인간과 기계의 경계를 허물 것이라는 커즈와일의 급진적인 주장은 전 세계적으로 충격과 논쟁을 불러일으켰다. 그러나 그가 인간 지능과 구분할 수 없는 컴퓨터의 등장 시점으로 지목한 2029년을 눈앞에 둔 지금, AI는 인간의 영역으로 남을 것으로 예상되었던 분야에서조차 놀라운 성과를 보여주며 마침내 특이점의 시대가 다가왔음을 실감케 하고 있다. 특이점(Singularity)이란 기술의 발전 속도가 매우 빠르고 그 영향이 매우 깊어, 되돌릴 수 없을 정도로 변화된 새로운 문명이 도래하는 순간을 뜻한다. ‘인류가 AI와 결합하는 순간’이라는 부제처럼, 커즈와일은 이를 ‘인공지능이 우리의 뇌와 긴밀하게 통합되어, 생물학이 인간에게 준 지능과 의식이 수백만 배 확대되는 사건’으로 정의한다. 《마침내 특이점이 시작된다》에서 그는 자신의 주장이 여전히 유효함을 일관되게 피력하며, 특이점을 향한 진전이 구체적으로 어떻게 실현되고 있는지 세세하게 안내한다. 다윈이 오랜 세월의 뿌리에서 모든 생명이 비롯됨을 보여주었듯, 정보 처리의 누적된 시간이 인간과 소프트웨어의 융합으로 이어지고 있음을 시사하는 이 책은 지난 20년 동안의 변화가 오늘날 우리를 어디까지 데려왔는지, 또한 새로운 인간 문명의 경계에 선 우리가 향후 20년의 미래를 어떻게 이해할 것인지에 대해 더욱 깊어진 통찰을 제공한다. 인간의 수명, 노동, 부와 권력, 삶과 죽음ㆍㆍㆍ AI가 기하급수적으로 뒤바꿀 새로운 문명! 이미 스마트폰이 거의 모든 인간 지식에 접근 가능한 뇌 확장 장치이자 우리 자신의 일부가 되었듯, 앞으로 우리 두뇌를 클라우드로 확장하는 AI와 인간의 융합이 가능해지면 모든 분야에서 인류의 능력은 훨씬 크게 발전할 것이다. 즉 인간이 생물학적 한계를 벗어나는 특이점 이후의 세계에서는 우리의 수명, 노동과 산업, 부와 권력, 복지와 안보, 삶과 죽음 심지어 존재 방식까지도 바뀐다. 시뮬레이션한 감각 데이터를 직접 뇌로 입력해 실제 현실과 융합되는 완전 몰입형 가상현실, 인간의 의식을 디지털로 업로드하여 생물학적 죽음 이후에도 복원이나 이식으로 새로운 형태의 삶을 영위하는 ‘애프터 라이프’ 기술, AI의 고도화된 설계로 토지의 한계에서 해방될 농업, 3D 프린팅이 실현할 생산과 분배의 탈중앙화, 화석 연료를 완전히 대체할 에너지 분야에서의 혁신... 커즈와일은 특히 의학 분야에서 AI가 혁명을 가져올 것이라고 전망하는데, 우리 몸에 침투해 신체 기관의 떨어진 기능을 수리하고 증강할 세포 크기의 나노봇, 질병에 대한 예방이나 치료법의 맞춤 설계를 인간 의사보다 빠르고 정확하게 수행할 AI의 패턴 인식 능력 등이 이미 고도로 발전하고 있기 때문이다. 물론 뇌의 정보와 의식이 복제 가능해지고, 비생물학적 부분이 결합한다면 그것은 과연 우리일까 하는 정체성에 관한 질문도 빼놓을 수 없다. 커즈와일은 이 딜레마를 정보 패턴의 연속성으로 설명한다. 정체성을 유지하는 것은 정보와 기능이며 구조와 물질이 아니라는 것이다. 이에 따르면 주관적 의식은 생물학적이고 물리적인 틀에서 벗어나 존재할 수 있으며, 스스로를 직접 프로그래밍할 수 있는 자기 수정 능력의 실현은 오히려 우리가 어떤 사람인지에 대해 전적으로 책임질 수 있게 한다. 선구자 커즈와일이 오래전부터 상상했던 세계는 생각보다 훨씬 가까이 있다. 다가올 미래에 대한 천재적인 아이디어와 발상으로 가득한 이 책은 주장을 빈틈없이 뒷받침할 최신 사례와 연구 결과, 풍성하게 제시된 그래프, 통계, 참고문헌 등 철저한 역사적 사실과 과학적 출처에 기반한 논리 전개로 독자들을 압도하며, 손에 잡히지 않을 것 같던 특이점 저편의 세계를 매혹적이면서도 소름 끼치도록 생생하게 그려낸다. “만약 미래의 AI가 다른 계산 과정을 통해 획기적인 과학적 발견을 하거나 심금을 울리는 소설을 쓴다면, 그것을 어떻게 만들어냈는가에 대해 시비를 걸 이유가 있을까? 만약 AI가 자신에게 의식이 있음을 아주 유창하게 주장할 수 있다면, 도대체 어떤 윤리적 근거로 오직 우리 자신의 생물학만이 가치 있는 지각을 낳을 수 있다고 주장할 수 있겠는가?” - 본문 중에서 스스로를 재설계하는 인류의 탄생, 우리는 그 순간을 반드시 목도할 것이다! 인간 신피질의 능력을 충실히 재현하고 있는 인공지능에 여전히 남아 있는 결함이 있다. 바로 맥락 기억력, 상식적 추론, 그리고 사회적 상호작용 같은 것들이다. 그러나 커즈와일은 AI가 곧 이러한 간극을 좁힐 것이라 낙관하는데, 이는 더 풍부하고 광범위한 훈련 데이터의 가용성 급증, AI가 더 효율적으로 배우고 추론하도록 도와줄 알고리듬 개선, 그리고 가장 중요한 원동력인 계산의 가격 대비 성능의 기하급수적 증가 추세를 근거로 한다. 커즈와일은 이를 직접 만든 용어인 ‘수확 가속의 법칙’ 즉 특정 기술이 혁신의 피드백 고리를 만들어내는 현상으로 설명한다. 이를 바탕으로 커즈와일이 제시하는 미래상은 긍정적 철학으로 가득하다. AI의 가속화에 따른 위기는 존재할 것이나, 기술 발전은 선형적으로 이루어지지 않으며 문제를 해결하는 기술 역시 기하급수적으로 발전하고 있기 때문이다. 이를테면 완전히 자동화된 업무는 특정 직업이 다른 업무로 전환할 수 있게 함으로써 사실상의 고숙련화가 일어날 것이다. 급진적 수명 연장으로 지구의 물질이 고갈되는 대신, 자원 사용 방법을 최적화하는 기술을 통해 우리는 막대한 자원을 발견하게 될 것이다. “사람들은 한 가지 변화를 상상할 때, 마치 그것 말고는 나머지는 달라지는 것이 전혀 없을 것처럼 생각한다. 하지만 실제로는 각각의 일자리가 사라질 때마다 많은 긍정적 변화가 함께 일어나며, 이러한 변화는 파괴적 변화만큼이나 빨리 일어난다.” - 본문 중에서 인공 지능과 인간 지능은 ‘경쟁’이 아닌 ‘결합’하며 함께 진화하고 새로운 가능성을 열 것이다. 커즈와일의 예측대로 2030년경 인류가 나노의학의 진보를 통해 ‘수명 탈출 속도’에 도달한다면, 우리는 이를 살아 있는 동안 목격하게 된다. 그의 분류에 따르면 지금 우리는 우주의 네 번째 시대를 사는 마지막 세대이며, AI가 사람과 구별할 수 없을 정도의 능력을 가졌는지 알아보는 ‘튜링 테스트’를 통과하는 순간 다섯 번째 시대에 진입할 것이다. AI 분야 현존 최고 경력의 개발자이자 기업가로서 최근에도 휴머노이드 로봇 개발을 위한 투자 유치로 화제를 모으며 전 세계 ‘특이점주의자’들에게 여전히 영감을 주고 있는 그는, 지금을 ‘인류 역사상 가장 중대하고 흥미로운 시기’라 표현한다. “커즈와일은 숫자와 데이터로 시작해 어느새 존재의 경계와 인간성의 결을 매만지는 철학자가 되었다. 특이점은 언젠가 갑자기 도달하는 이정표가 아니라, 우리가 스스로를 의심하고 다시 쓰기 시작하는 바로 그 순간부터 시작된다. 이 책은 우리에게 묻는다. “당신은 과연 어떤 인간으로, 어떤 존재로 이 변화 앞에 서고 싶은가?” 이 책의 감수를 맡은 장대익 교수의 말처럼 《마침내 특이점이 시작된다》는 미래 예측을 넘어, 우리의 세계를 구성하던 모든 개념은 물론 우리 자신까지 재정의될 특이점의 시대, 누구나 한 번쯤 짚고 넘어가야 할 질문과 생각할거리를 던진다. 커즈와일의 60년 인공지능 연구의 집대성이자 최고의 역작인 《마침내 특이점이 시작된다》는 AI 시대 미래 비전을 고민하는 경영자나 업계 종사자, 기술 기업을 공부하는 투자자들은 물론 다가올 세상을 두려움 없이 상상해보려는 모든 이들을 위한 가장 중요한 지침서가 될 것이다.