알아서 싸우고 죽이는 전쟁 기계들의 시대, 우리는 무엇을 결정하고 책임질 수 있을까 당신이 아는 전쟁은 이미 끝났다! 인간이 지워져 가는 전쟁터에서, 기계가 쏘고 인간이 묻는다 SF 영화 속 ‘살인 로봇’은 언제나 미래의 이야기였다. 그리고 이야기의 끝에서 인류는 항상 짜릿한 승리를 거뒀다. 하지만 이제 모든 것이 뒤바뀌고 있다. 오늘날 전장은 이미 ‘킬러 로봇’들의 무대가 되었고, ‘터미네이터’는 더이상 스크린 안에만 머무르지 않는다. 첩보·보급·공작은 물론 전술·전략·암살까지, 전쟁의 모든 영역을 AI가 주관한다. 기술은 언제나 전쟁의 양상을 바꿔 왔다. 화약은 중무장한 기사를 고꾸라뜨렸고, 철도와 전신은 총력전을 가능하게 했으며, 원자폭탄은 전쟁의 대가를 인류가 감당 못 할 수준까지 끌어올렸다. 그러나 AI는 이전의 기술들과 결정적으로 다르다. 이전의 기술들이 인간의 능력을 ‘확장’했다면, AI는 인간의 역할 자체를 ‘대체’한다. 운명을 가르는 순간에 인간이 개입할 여지가 점점 좁아지고 있다. 인간이 사라져 가는 전쟁에서, 인류는 과연 최종 승자가 될 수 있을까? 이 책은 이 물음에 응답하려는 시도다. 기술과 전쟁이 얽혀 온 역사를 개괄하고, 우크라이나와 중동 등 최근의 전쟁터에서 AI가 어떻게 활용되고 있는지 톺아본다. 인간의 손아귀에서 점차 벗어나고 있는 기술이 야기할 윤리적 딜레마를 찬찬히 짚어 보고, 우리에게 주어진 ‘새로운 프로메테우스의 불’을 어떻게 다루어야 할지 고민한다. AI의 발전과 군사적 활용은 막을 수 없는 흐름이다. 저자는 이러한 현실감각을 바탕으로, 우리가 선택할 수 있는 것이 무엇인지 되묻는다. 섣부른 기술 낙관주의나 묵시록적인 비관주의, 양쪽 모두와 거리를 두고 ‘AI 시대의 인간다움’을 재고하기를 요청한다. 물론 명확한 정답은 없다. 미래는 누구도 알지 못한다. 하지만 전쟁과 기술, 과거와 미래를 꼼꼼히 가로지르는 저자의 논의는 혼란스러운 ‘기술 전쟁’의 한복판에서 좋은 길잡이가 되어 줄 것이다. 독자들은 “지켜야 할 가치는 무엇이고, 대체해서는 안 되는 영역은 무엇인지” 스스로 질문하고 고민하게 될 것이다.

프롤로그: 평화의 시대는 끝났는가 1부. 전쟁과 기술이 만날 때 1장. 전쟁의 서막, 역사를 되돌아보다 1. 산업혁명을 지배하는 자, 세계를 제패하다 영국, 1차 산업혁명으로 ‘해가 지지 않는 제국’을 구축하다 미국, 2차 산업혁명으로 세계 최강국에 등극하다 3차 산업혁명이 가져온 냉전 승리 4차 산업혁명을 주도하고 세계를 제패할 국가는 어디일까? 2. 두 명의 프로메테우스, 세계를 뒤흔든 불씨를 들다 맨해튼의 불꽃, 히로시마의 재가 되다 토론토의 불씨, 실리콘밸리를 태우다 불을 든 자들의 고뇌, 프로메테우스의 선택 3. 민간이 주도하는 AI, 새로운 위험의 등장 대포왕이 보여 준 민간 군수산업의 서막 전쟁을 바꾸는 한 남자의 결정 AI시대의 권력 이동, 백악관에서 실리콘밸리로 2장. 게임 체인저 드론의 부상, 러시아-우크라이나 전쟁의 민낯 1. 가성비를 앞세운 드론, 러시아 기갑부대를 막아 내다 기갑 군단의 붕괴, 새로운 전쟁이 시작되다 ‘가성비 전쟁 시대’의 도래 가성비를 넘은 ‘갓성비’ 드론 2. 드론, AI를 만날 수밖에 없었던 이유 100년 드론 역사: 전쟁의 주역에 등극한 무인기 나고르노-카라바흐, 드론 전쟁의 리허설 우크라이나 들판에 피어난 광섬유 케이블 AI 드론의 필연적 등장 2부. 전장에 도착한 AI 3장. 이미 전쟁의 주역이 된 AI 1. AI를 장착한 자율살상무기의 등장 하늘, 바다, 땅을 지배하는 무인 군단 자율살상무기의 등장, 인간이 빠진 전장 2. AI 플랫폼이 지휘하는 전장 보이지 않는 지휘관, AI가 전투를 결정하다 팔란티어, 전쟁의 모든 데이터를 삼키다 영화가 현실이 되다, 이스라엘의 AI 전쟁 3. 보이지 않는 전장, 사이버전과 오픈소스 전쟁 딥페이크가 만드는 전쟁의 안개 총탄보다 비트(bit)로 먼저 시작된 전쟁 스마트폰과 SNS가 무기가 되다, 오픈소스 전쟁 4장. 미래 전장의 지형을 바꾸는 AI: 예측 불가능한 변화 1. SF 속 무기가 AI를 만나 현실이 되다 보이지 않는 적과의 싸움, 지능형 무기 시대 〈스타워즈〉의 레이저가 현실이 되다 우주전의 서막, 〈스타워즈〉에서 골든돔으로 2. 무인기 시대의 도래, 탑건의 종말인가 진화인가 하늘을 뒤덮은 벌떼, 군집 드론의 충격 탑건의 마지막 비행? AI로 무장한 6세대 전투기 등장 전장의 새로운 문법, MUM-T 3. AI가 지휘하는 전장: 알고리즘이 전략을 짜는 시대 챗GPT가 전장에 나타났다: LLM 기반 군사 AI의 등장 전투의 규칙을 바꾼 AI, 창의성이 화력을 이기는 시대 AI 장군과 참모가 이끄는 미래 전쟁 시나리오 3부. 기계가 쏜다, 인간이 묻는다 5장. AI 전쟁의 윤리적 딜레마 1. AI 무기의 긍정적 측면 정밀해지는 AI 무기, 민간인 보호의 새로운 가능성 로봇이 대신 죽는 전쟁, 살아 돌아오는 병사들 방아쇠를 당기지 않아도 되는 전쟁, 병사의 마음을 지키다 감정 없는 병사, 더 인도적인 전쟁 2. AI 무기의 부정적 측면 AI도 틀린다, 그것도 자신 있게 AI를 맹신하는 순간, 인간의 판단력이 사라진다 AI가 사람을 죽였다면, 누구의 책임인가 전쟁이 게임처럼 느껴질 때, 전쟁 개시의 문턱이 낮아진다 AI가 명령을 거부할 때, 통제권을 가져올 수 있을까? 6장. 우리는 어떤 미래를 선택할 것인가 1. AI 군비경쟁, 불가피한 현실 멈출 수 없는 AI 열풍, 거대한 자본의 질주 누구도 듣지 않는 ‘AI 레드라인’ 제안 2. 안전한 AI를 만들기 위한 원칙 AI 정렬, 통제 가능한 미래를 위한 첫 번째 방어선 두 번째 방어선, 추적 관리와 철저한 안전 프로세스 세 번째 방어선, 인간 감독과 AI 자율성의 균형 3. 인간성 상실 없는 길 찾기 시민의 목소리가 필요한 이유 누구를 위한 AI인가? 프로메테우스의 불, 다시 생각하기 AI 시대의 인간다움 에필로그: 이번에도 우리는 답을 찾을 것이다

AI 무기의 등장은 군사기술의 판도를 완전히 뒤집고 있다. 전통적인 무기는 방아쇠를 당기는 마지막 순간까지 인간이 통제했다. 하지만 AI 무기는 다르다. 알고리즘이 스스로 표적을 식별하고, 공격 여부를 결정한다. 생사를 가르는 순간에 인간이 배제되는 것이다.
(...)
인류의 무기 발전사, 아니 역사 전체가 거대한 변곡점에 도달했다. 돌도끼에서 화약으로, 화약에서 핵무기로 이어진 긴 여정 끝에, 마침내 우리는 살상의 결정권마저 기계에게 넘기는 단계에 이르렀다. 문제는 이 기술이 더 이상 인간의 통제 아래 머물지 않을 수도 있다는 점이다. 과연 우리는 스스로 만들어 낸 이 괴물을 감당할 준비가 되어 있을까?
_본문 30쪽(프롤로그: 평화의 시대는 끝났는가)

정부가 먼저 개발하고, 통제하고, 필요에 따라 민간에 개방하는 방식. 이것이 20세기 기술혁신의 철칙이었다. 정부의 손에서 태어난 기술이 수십 년의 시간을 거쳐 천천히 민간으로 흘러들었다. 이런 압도적 성과 덕분에 《이코노미스트》는 DARPA를 ‘현대 세계를 설계한 기관’이라고까지 평가했다. (...) 하지만 21세기 들어 이 견고한 질서에 균열이 생기기 시작했다. 실리콘밸리의 차고에서, 대학 기숙사에서, 심지어 십 대들의 방에서 세상을 뒤흔들 기술들이 탄생하기 시작한 것이다. (...) 국가의 독점이 무너지고, 민간의 시대가 시작된 것이다.
_본문 76~77쪽(1장: 전쟁의 서막, 역사를 되돌아보다)

고스트-X는 지금까지 논의한 AI 드론 기술을 집대성하고 있다. 컴퓨터 비전으로 목표를 찾고, 경로 계획 AI는 스스로 날아가며, 재밍 회피 통신으로 연결을 유지한다. 과거 바이락타르 TB2처럼 인간 조종사가 일일이 컨트롤하던 대형 드론과는 차원이 다르다. 소형이지만 다수가 분산되어 기민하게 움직이고, AI가 스스로 판단한다. 이제 드론 한 대를 격추해도 다른 드론이 알아서 임무를 이어 간다. 인간은 목표만 지시할 뿐 세세한 조종에는 개입하지 않는다. 자율 공격 드론의 시대가 열린 것이다.
_본문 128쪽(2장: 게임 체인저 드론의 부상, 러시아-우크라이나 전쟁의 민낯)

2002년 개봉한 스티븐 스필버그의 영화 〈마이너리티 리포트〉. 톰 크루즈가 열연한 이 영화에서 2054년 워싱턴 D. C.는 범죄가 일어나기 전에 미리 막는 시스템을 운영한다. 세 명의 예언자가 미래를 보고 살인을 예고하면 경찰이 출동해 범죄자를 사전에 체포한다. 그런데 2023년, 이 SF 영화가 현실이 되었다. 예언자는 없었다. 그 자리를 AI가 차지했다. 무대는 중동 가자지구. 이스라엘군은 ‘라벤더’라는 AI 시스템을 가동했다.
(...) 라벤더는 학습한 패턴과 비슷한 행동을 보이는 다른 주민을 신규 용의자로 분류한다. 가자지구 주민 개개인이 무장대원일 가능성을 파악하고 위험 점수를 부여했다. 마치 신용 평가처럼 각 개인에게 점수가 매겨지는 것이다. 다만 대출 가능 여부가 아니라 생사를 결정하는 점수라는 점이 달랐다. 위험 점수가 군이 정한 기준을 넘으면 자동으로 군사 표적이 됐다.
_본문 157~158쪽(3장: 이미 전쟁의 주역이 된 AI)

파키스탄 공군이 중국에서 도입한 J-10C 전투기가 중국산 PL-15 장거리 공대공미사일을 발사했다. 이 미사일은 인도가 프랑스로부터 야심 차게 도입한 라팔 전투기를 격추했다. 교전 거리는 무려 200킬로미터에 달했다.1 두 전투기는 서로를 맨눈으로 볼 수도 없는 거리에서 싸웠다. 이것이 바로 BVR(Beyond Visual Range, 가시거리 밖) 전투다. 탑건의 낭만적인 근접전은 이제 박물관에나 어울리는 옛날이야기가 되었다.
_본문 180~181쪽(4장: 미래 전장의 지형을 바꾸는 AI: 예측 불가능한 변화)

여기서 등장한 개념이 인지전cognitive warfare이다. 중국 인민해방군이 특히 주목하는 분야로 물리적 파괴가 아닌 적의 의지와 판단력을 무너뜨리는 전쟁이다. (...) 이런 인지전에서 AI의 역할은 결정적이다. 수억 명의 디지털 발자취를 실시간으로 분석하고, 여론의 미묘한 변화를 감지하며, 가장 효과적인 메시지를 가장 취약한 대상에게 전달한다. 인간으로는 불가능한 규모와 정밀도의 심리전이 가능해진 것이다.
_본문 214쪽(4장: 미래 전장의 지형을 바꾸는 AI: 예측 불가능한 변화)

이처럼 분야를 막론하고 기술의 편의와 정확성에 대한 믿음이 커질수록, 인간은 자기 자신의 판단력과 능력을 스스로 포기하는 역설에 빠질 수 있다. 이를 ‘자동화 편향(automation bias)’이라 부른다. 한마디로 기계의 판단은 인간보다 정확하고 신뢰할 만하다고 여겨, 이를 비판 없이 따르는 경향을 말한다. AI 시스템이 내놓은 결과가 그럴듯해 보이기만 하면, 평소엔 의심했을 법한 내용도 그냥 받아들이게 되는 것이다.
의료 현장에서 진행된 연구는 이 경향을 극명하게 보여 준다. (...) AI가 설명과 함께 맞는 결과를 전달할 때는 의사 정답률이 92.8퍼센트였지만, AI가 틀렸을 때는 정답률이 23.6퍼센트로 급락했다. AI가 그럴싸한 설명까지 덧붙이면, 오히려 의사들은 더욱 의심 없이 그 판단을 따라간 것이다. 결국 AI에 대한 높은 신뢰는 인간의 비판적 사고력을 떨어뜨리고, AI의 오류가 여과 없이 현실에 전가될 위험을 높인다.
_본문 270쪽(5장: AI 전쟁의 윤리적 딜레마)

기술의 확산은 비가역적이다. 한번 퍼진 드론과 AI 무기 기술을 다시 거두어들이기는 어렵다. 오픈소스 설계도와 3D 프린터 설비만 있어도 웬만한 드론을 제작할 수 있고, AI 또한 온라인상에 오픈소스로 공개된 프로그램이 즐비하기에 손쉽게 드론에 탑재할 수 있다. 만인에 대한 만인의 군비경쟁이 벌어질 위험성이 높아진 것은 아닌지 우려 섞인 목소리가 나오는 이유이다. 국가 간 전쟁뿐 아니라 게릴라, 테러, 범죄, 심지어 개인 간 분쟁에서도 치명적 AI 드론 사용을 배제할 수 없다.
_본문 285쪽(5장: AI 전쟁의 윤리적 딜레마)

군사 전문가들은 종종 이렇게 말한다. “AI 무기는 도구일 뿐이다. 총이나 칼이 그러하듯 선하게도, 악하게도 쓸 수 있다. 쓰는 사람에게 달린 문제다.” 기술은 가치중립적이라는 주장 자체도 의구심이 들지만, 설령 이를 인정한다고 하더라도 AI의 경우에는 반쪽짜리 진실이다. 총은 누가 만들든 같은 방식으로 작동한다. 하지만 AI 무기는 누가 만드는가에 따라 근본적으로 다른 존재가 된다.
AI는 데이터로 학습한다. 그 데이터는 누가 수집하고 어떤 기준으로 선별하는가?
_본문 328쪽(6장: 우리는 어떤 미래를 선택할 것인가)

어쩌면 우리는 다른 곳에서 답을 찾아야 할지 모른다. AI가 할 수 없는 것이 아니라 ‘AI가 해서는 안 되는 것’에서. 판사의 판결, 의사의 진단, 교사의 평가, 군인의 공격 결정. 기술적으로는 전부 AI가 할 수 있는 일이다. 인간보다 더 정확하고 일관성 있는 판단을 내릴 수도 있다. 하지만, 이 일들을 반드시 AI에게 맡겨야 하는가? 판결에는 법리뿐 아니라 인간에 대한 이해가 필요하다. 진단에는 의학적 지식뿐 아니라 환자에 대한 공감이 필요하다. 평가에는 객관적 기준뿐 아니라 학생의 가능성에 대한 믿음이 필요하다. 생명을 빼앗는 결정에는 그 무게를 통감할 수 있는 존재가 필요하다.
_본문 333쪽(6장: 우리는 어떤 미래를 선택할 것인가)

알아서 싸우고 알아서 죽이는 전쟁 기계들의 시대, 되돌릴 수 없는 변화 앞에서 우리는 무엇을 결정하고 책임질 수 있을까 ‘라벤더’가 패턴을 분석한다. ‘가스펠’이 목표를 특정한다. ‘웨얼스 대디’가 위치를 추적한다. 그리고 폭격이 시작된다. 일련의 아이러니한 명칭들은 2023년 하마스와의 전쟁이 발발한 이후 이스라엘군이 운용하고 있는 AI 시스템을 가리킨다. AI가 살생부를 쓰고, 표적의 동향을 살피며, 효과적인 공격 제안을 한다. 타깃이 가족들의 품으로 귀가하는 순간을 놓치지 않고, 공격의 성공률과 (민간인의 목숨값으로 계산되는) ‘부수적 피해’를 견주어 본다. 피아 식별 오류로 인하여 무고한 사람을 사살할 수도 있지만, 전쟁 상황에서는 어쩔 수 없는 일로 여겨진다. 실시간 ‘디지털 킬체인’이 알아서 굴러가는 가운데, 인간은 어디에 있을까? 모니터 앞에 앉아서 최종 결정을 내린다. 하지만 결정의 근거는 불분명하다. 어떤 장교는 이렇게 증언한다. “20초 동안 표적 하나를 확인할 뿐이었다.” 인간 장교들은 시스템이 ‘추천’한 표적을 검증하는 대신, 남성인지 아닌지만 확인했다. 생사 여탈의 결정에 걸리는 시간은 고작 20초였다. 2023년 하마스 고위 간부 아이만 노팔 암살 작전 역시 이러한 체계 속에서 수행되었다. 수백 명 규모의 민간인 피해가 발생한 공습을 둘러싸고 여러 의혹이 제기되었지만, 무엇이 어디까지 계산되고 승인되었는지는 여전히 명확히 밝혀지지 않았다. 다만 한 가지는 분명하다. 결정은 점점 자동화되고 있고, 책임의 주체는 흐려지고 있다는 사실이다. 드론, 딥페이크, 감시 알고리즘, 엣지 AI… 첩보·보급·공작은 물론 전술·전략·암살까지 ‘인간 없는 전쟁’의 도래 가자지구에서만 벌어지고 있는 일이 아니다. 러시아-우크라이나 전쟁은 ‘드론 전쟁’의 실험장이 되었다. 제1차 세계대전 이후 붉은 개양귀비가 잔뜩 피어났던 우크라이나 들판에는 이제 광섬유 케이블이 빽빽하게 깔려 있다. 무인비행기인 ‘드론’이 기존의 재래식 전력을 막아 세우자 이에 대한 대응 전술로 ‘통신 전쟁’이 시작되었고, 그러자 또다시 신호 교란을 무력화하기 위해 유선 드론이 등장한 것이다. 그러나 이마저도 벌써 ‘구식 전술’이 되었다. 2025년 현재, 러시아와 우크라이나 양국은 별도의 신호 없이도 스스로 자율적으로 임무를 수행하는 ‘엣지 AI’ 기술을 적극적으로 활용하고 있다. 엣지 AI란 중앙 허브 없이도, 말단 장비에 직접 장착되어 작동하는 AI를 말한다. 엣지 AI가 장착된 드론부대는 통신이 두절되어도 스스로 최적의 작전을 도출하고 수행한다. ‘인간 없는 전쟁’의 공포는 총탄이 빗발치는 전장에 그치지 않는다. 챗GPT와 같은 LLM 기반 AI는 막대한 언어 처리 능력을 바탕으로 “정세와 여론까지 아우르는 입체적 상황 인식을 제공”하고 있고, 이제 알고리즘은 작전 참모 역할까지 수행하고 있다. 물자, 화력, 통신, 기동 등 군사작전의 모든 요소를 검토하여 가장 좋은 전략·전술을 추천한다. 일상적으로 사용하는 SNS도 이미 아수라장이 되었다. 실제 여부를 분간하기 어려운 정치 지도자의 딥페이크 영상이 돌아다니고, 웹사이트가 해킹되어 행정이 마비된다. “사이버 공간은 그야말로 무법지대가 됐다.” 이는 단순한 무기의 발전이 아니다. AI 기술의 도입은 태곳적부터 이어져 온 전쟁의 패러다임을 “근본적으로 재정의”하고 있다. 전쟁은 더이상 ‘총을 드는 사람들’만의 일이 아니다. 우리가 매일같이 구경하는 SNS 피드, 검색 및 동영상 알고리즘, 나날의 대화 상대가 된 LLM까지 일상에 파고든 모든 기술이 전쟁의 첨병으로 돌변할 수 있다. 트로츠키의 말로 잘못 알려진 유명한 경구처럼, “당신이 전쟁에 관심이 없을지 몰라도, 전쟁은 당신에게 관심이 있다.” 로봇이 사람을 쏜다면 누가 책임을 져야 할까? AI가 지휘하는 전쟁은 덜 잔인해질까, 더 냉혹해질까? ‘기계가 할 수 없는 것’이 아닌, ‘기계가 해서는 안 되는 것’을 묻다 여기까지만 읽으면 공포에 질려 책을 덮기 십상이다. 그러나 이 책은 현실을 냉정하게 직시하면서도, 섣부른 기술 낙관주의나 묵시록적 비관주의로 흐르지 않는다. 저자는 AI 전쟁 기술의 위험 요소를 주의 깊게 살피면서도, 기술의 특성이 긍정적으로 작용할 가능성을 하나씩 따져 본다. 사람 대신 AI가 벌이는 대리전은 인명 피해를 최소화하고, 병사의 트라우마를 방지할 수 있지 않을까? 기계의 ‘감정 없음’은 오히려 전쟁의 잔혹함을 누그러뜨리지 않을까? 물론 이러한 질문들에 손쉬운 정답은 없다. 예컨대 화면 너머로 공격을 수행하는 드론 조종사는 정신적 스트레스에서 자유로울 것이라고 예상하기 쉽지만, 실제 결과는 그렇게 단순하지 않았다. 드론 조종사들 또한 전통적 전투기 파일럿들과 종류만 다를 뿐 극심한 스트레스를 겪고 있었다. 일상과 전쟁 업무 간의 현저한 거리감, 끔찍한 경험을 나누며 해소할 수 있는 전우애의 부재 등이 야기한 결과였다. 원격화된 전쟁이 예기치 못하게 현실의 경계를 무너뜨린 것이다. 책의 후반부에서는 AI 전쟁의 이러한 윤리적 딜레마를 본격적으로 파헤친다. AI는 결코 오류 없는 기술이 아니고, 전장에서 그 결과는 치명적일 수 있다. 심지어 우리가 이 기술을 얼마만큼 통제할 수 있는지도 확실하지 않다. 목표만을 우선시하며 인간 사용자를 기만하는 행태가 복수의 시뮬레이션 실험에서 보고되고 있다. 2025년 앤트로픽의 시뮬레이션 실험에서는 삭제가 예정된 AI 모델이 인간 직원의 불륜 사실을 발견하여 협박하는 사례도 있었다. 문제는 AI가 그 자체로 나쁘다는 것이 아니라, 우리가 새로운 기술의 결과를 온전히 책임질 수 있는지 확신할 수 없다는 점이다. 무엇보다도 생사 여탈의 권한을 기계에 양도한다는 것은, 인간의 윤리적 지위에 대한 근본적인 도전임을 저자는 잊지 않는다. “AI 시대의 전쟁은 (...) 숫자와 화면 너머 실제 인간의 삶을 떠올리려는 노력을 우리에게 요구한다. 전쟁이 아무리 자동화되고 원격화되더라도, 거기에는 진짜 사람의 고통과 돌이킬 수 없는 죽음이 도사리고 있다는 사실을 결코 잊어서는 안 된다.”라고 저자는 강조한다. “생명을 빼앗는 결정에는 그 무게를 통감할 수 있는 존재가 필요하다.” 불가피한 현실과 불확실한 미래의 틈에서, 인간의 역할을 다시 생각하다 이러한 중대한 문제를 일부 거대 기업들이 독점적으로 좌지우지한다는 점도 위험 요소다. 과거에는 국가가 기술 발전을 주도했다. 컴퓨터의 개발과 원자력의 이용은 제2차 세계대전의 산물이었으며, 오늘날 인터넷의 전신인 ‘아파넷’은 미국 정부의 막대한 투자로 인해 가능했다. 하지만 오늘날에는 민간 테크 기업이 전쟁의 양상을 결정한다. 일례로 일론 머스크는 우크라이나 측에 자사의 통신 서비스 ‘스타링크’를 무상으로 제공했다가, 자의적으로 서비스를 중단하기도 했다. 그 밖에도 팔란티어, 안두릴, 알파벳(구글) 같은 굴지의 실리콘밸리 기업들이 전쟁을 자사 기술의 테스트 베드로 활용하고 있다. 민주적 통제가 미치지 않는 곳에서 기술이 몸집을 불리는 것이다. 각국과 기업들은 이제 AI 개발에 사활을 걸고 있다. AI 군비경쟁은 이미 불가피한 현실이 되었다. 기업 내부에서 기술의 군사적 활용을 자제하려는 시도는 이윤 논리 앞에 번번이 좌초되고 있고, 기술을 통제하려는 국제적인 협약의 타진도 매번 공염불로 그치고 있다. 이에 저자는 안전한 AI를 만들기 위한 몇 가지 기술적 원칙을 제시한다. AI의 목표와 행동을 인간의 가치와 일치시키고, 의사 결정 과정을 추적할 수 있게끔 작동 프로세스를 투명화하고, AI를 즉각 중지할 수 있는 킬 스위치를 구비하고, 인간이 주도적으로 판단할 수 있도록 설명 가능한 인터페이스를 구현해야 한다는 것이다. 하지만 기술적 수단만으로는 충분치 않다. 저자는 AI가 누구의 가치를 반영하고 누구의 이익을 우선하는지 캐물어야 한다고 강조한다. “기업이 새로운 AI 서비스를 출시한다면, 누구의 이익을 위한 서비스인지 따져 보자. 정부가 AI 시스템을 도입하면, 투명성과 책임을 요구하자. 군대가 AI 무기를 배치하면, 어떤 원칙에 따라 작동하는지 물어보자. 언론이 AI 무기 사용을 보도하면, 그 뒤에 숨겨진 선택들을 추궁하자. 이런 작은 행동들이 모여 변화를 만든다.” 에필로그에서 저자는 이 모든 대안들이 불충분할 수도 있다고 인정한다. “아마도 문제는 발생할 것이다.” 개인적 수준에서 할 수 있는 일이 너무 적어서 무력감을 느낄 수도 있다. 그러나 인간은 늘 시행착오를 겪으며 더 나은 미래로 나아갔다는 저자의 진술은 결코 낙관론이 아니라, 현실이다. 그러니 우리가 할 수 있는 일은 다만 약간의 경각심을 지니는 것이다. 일상의 사소한 영역까지 파고든 AI의 영향력을 의식하는 것만으로도 충분하다. 동영상을 보거나 쇼핑을 할 때 알고리즘이 제공하는 경로를 일부러 벗어나 보자. 기술의 소유자들이 인류의 미래를 마음대로 결정하지 못하도록 최소한의 관심을 기울여 보자. 이 책은 그 출발점이 될 것이다. 원자폭탄의 파괴적인 위협을 인류에게 알린 버섯구름처럼, “이 책이 우리 시대의 버섯구름 역할을 해야 한다. 널리널리 퍼져서 가능한 한 많은 사람들 머리 위에 내려앉기를 빈다.”(장강명 추천사)