AI 만능주의를 향한 범죄학자의 경고! 딥페이크, 가짜뉴스, 댓글부대, 여론 조작 … AI 시대, 우리가 알아야 할 신종 AI 범죄와 법 순천향대 오윤성 교수 강력 추천! 인공지능기본법 법령 분석 수록 딥페이크 영상, 조작된 댓글, 가짜뉴스, 여론 조작… AI 기술은 이제 범죄의 도구가 되고 있다. 『당신은 AI를 어디까지 믿을 수 있나요?』는 AI의 편리함에 가려진 위험한 그림자를 정면으로 다룬 책이다. 순천향대 오윤성 교수를 포함한 법조계·수사기관 전문가들의 추천을 받은 이 책은 실제 범죄 사례부터 처벌 규정, 예방 프로그램, 그리고 곧 시행될 인공지능기본법 해설까지 폭넓게 담았다. 기술을 맹신하기 쉬운 지금, AI에 대한 신뢰가 어떻게 이용되고 범죄로 이어지는지, 그리고 우리는 무엇을 알고 대비해야 하는지를 명확하게 알려 주는 현실적인 경고장이다. 지금 이 책은 AI 시대를 살아가는 모든 사람을 위한 필독서다.

[프롤로그] 1부. 생성형 AI 01 저작권 침해 AI 작곡가가 저작권료를 받을 수 있을까요? AI는 지금도 누군가의 저작물을 학습하고 있다 [사례] 울트라맨 사건 유럽연합의 인공지능법(AI Act)과 같은 법제화 필요 02 미술품 위작 둘 중 하나는 위작 논란에 휩싸인 작품입니다 생성형 AI 앞에 놓인 선택의 기로, 미술품 복원 vs 위작 [사례] 넥스트 렘브란트 프로젝트 [사례] 클림트 컬러 에니그마 프로젝트 미술품 시장을 위협하는 AI [예방 프로그램] 작가의 스타일을 모방하지 못하도록 막는 기술 - 글레이즈 & 나이트셰이드 2부. 대규모 언어 모델, LLM 03 가짜 뉴스 생산 “미국 트럼프 대통령이 체포되었다고요?” 챗GPT에게 가짜 뉴스 생성을 시켜 봤습니다 광고 수익을 목적으로 가짜 뉴스를 제작하는 ‘콘텐츠 팜’ [예방 프로그램] 작성자를 분석해 주는 AI 탐지 프로그램 - GPT제로 04 스피어 피싱 “김OO 고객님, 주문하신 택배가 도착할 예정입니다. 배송 조회(클릭)” 손쉽게 스피어 피싱 메시지를 만드는 LLM [사례] 챗GPT의 메시지 생성 능력 실험 [사례] LLM 모델별 메시지 생성 능력 비교 실험 05 악성코드 제작 “컴퓨터 파일을 복구하고 싶다면 비트코인으로 $300를 보내시오” 랜섬웨어 등 악성코드를 만드는 데 악용되는 LLM LLM이 생성한 코드를 분석하고 탐지하기 3부. 딥페이크 06 로맨스 스캠 “OO 씨, 여기로 $700 보내면 비트코인 배당금 보낼게요” [사례] 로맨스 스캠에 속아 7천만 원을 잃은 A씨 3배 이상 증가한 ‘로맨스 스캠’ 피해 규모 상대방이 제공하는 사진, 여권, 은행 계좌 등이 허위일 수 있습니다 온라인 플랫폼 운영자가 취해야 하는 조치 워터마킹을 활용한 딥페이크 라벨링 기술 07 딥페이크 성범죄물 제작 4천 명에 달하는 연예인 딥페이크 피해자 [사례] 작가 ‘베가 캐디’에게 온 협박 이메일 [사례] 서울대 n번방 사건 [예방 프로그램] 이미지 보호를 위해 ‘디지털 백신’ 접종하기 4부. 봇 08 여론 조작 “OOO 후보님 응원합니다” 한순간에 올라가는 댓글 공감 수 여론을 조작하는 검은 손, 소셜 봇 [사례] 영국 브렉시트 국민투표 [사례] 2016년 미국 대선 여론 조성 사건 [예방 프로그램] SNS 계정이 소셜 봇인지 검증하는 프로그램 - 봇 오미터 엑스 09 시세 조종 “아무 이유 없이 주가가 오르다가 어느 순간 바닥으로 떨어졌어요” 시세 조종에 사용되는 소셜 봇과 자전거래 봇 [사례] 청담동 주식 부자 ‘이희진 형제’ 코인 사기 사건 [예방 프로그램] 컴퓨터와 사람을 구별하는 테스트 프로그램, 캡차 사용자 행동 패턴 분석과 IP 추적 10 크리덴셜 스터핑 당신의 아이디와 비밀번호, 안전한가요? [사례] 대성학원 개인정보 유출 사건 해커 대신 무작위 로그인 시도를 수행하는 봇 비밀번호 변경과 이중 인증 사용 등 기본적인 보안 실천 필요 11 온라인 쇼핑 사기 “이렇게 똑같은데 가짜 쇼핑몰이라고요?” 가짜 온라인 쇼핑몰에서 사기당하는 과정 [사례] 과일 업체 과장·허위 광고 사건 5부. 자율주행 기계 12 마약 운반 “드론이 마약을 싣고 교도소 담장을 넘었습니다” 자율비행 드론이 과연 의약품만 운반할까? 우범지대를 드론 비행 금지 구역으로 설정하기 경찰 드론을 활용한 공중 감시 13 인명 살상 “드론이 적군의 탱크, 수송차를 식별해 공격합니다” 군에서 주목받는 자율주행 기계 수사에 어려움을 주는 자율주행 기계 관련 범죄 자율주행 기계가 테러에 악용될 위험성 자율주행 기계의 ‘사물 식별 기술’ 향상하기 기계 장치별 사이버보안 기준 확립 필요 [부록 1] AI 용어 사전 [부록 2] 인공지능기본법 찾아보기

◆ 이런 분께 추천해요! - AI 비즈니스를 준비하는 기업 관계자 - AI 정책을 세워야 하는 정책 연구원 - AI 범죄와 관련한 지식을 갖춰야 하는 경찰, 법조계 공무원 - AI 관련 교육을 준비 중인 초중고 교사, 강사 - AI가 이 시대에 미칠 영향이 궁금한 일반인, 창작자 ◆ AI 범죄, 얼마나 알고 있나요? - AI가 내 저작물을 불법으로 학습하고 있다? - AI는 유명한 작품을 복원할 수도, 위작할 수도 있다? - AI에게 입력하면 가짜 뉴스가 우수수! - 생활 속에 유용한 봇, 여론을 조작하는 소셜 봇이 될 수 있다? - 코인을 자동으로 사고팔아 시세를 조종하는 봇이 있다? - 의약품을 운반하는 드론이 마약도 운반할 수 있다? 당신은 AI를 제대로 알고 있지 않습니다 모르면 당한다! 신종 AI 범죄의 모든 것 AI 기술은 날로 정교해지고 있지만, 이를 악용하는 방식 또한 빠르게 진화하고 있습니다. ‘딥페이크 범죄’, ‘AI 봇을 활용한 온라인 쇼핑 사기’, ‘AI 제조사의 무분별한 자료 학습으로 인한 저작권 침해’ 등 신종 AI 범죄는 지금 이 순간에도 우리 사회 곳곳에서 발생하고 있습니다. 이 책은 일반인은 물론 전문가도 쉽게 놓칠 수 있는 최신 AI 범죄 수법의 전모를 충격적인 실제 사례 중심으로 소개하며, 누구나 피해자가 될 수 있는 시대에 어떻게 대응하고 예방할 것인지 해답을 제시합니다. ‘서울대 n번방’을 비롯한 최신 AI 범죄 사례는 물론 유형별 처벌 규정, 예방 프로그램 수록! 이 책은 단순히 경고로 끝나지 않습니다. 실제 수사 자료와 판례를 바탕으로 구성한 이 책은 ‘서울대 n번방 사건’을 포함한 충격적인 최신 AI 범죄 사례들을 심층 분석합니다. 그뿐만 아니라 현행법상 AI 관련 범죄의 처벌 규정, 법적 공백, 그리고 공공기관이 참고할 수 있는 구체적인 예방 기술까지 풍부하게 수록해, 실무자와 일반인 모두에게 실제 가이드를 제공합니다. 2026년 1월부터 ‘인공지능기본법’이 시행됩니다 다가오는 2026년 1월, 우리 사회는 중요한 전환점을 맞이합니다. 바로 ‘인공지능기본법’이 본격적으로 시행됩니다. 하지만 사람들은 대부분 이 변화가 자신과 어떤 관련이 있는지조차 모릅니다. 이 책은 AI 관련 법제도의 최신 흐름과 변화, 그리고 시민이 반드시 알아야 할 핵심 내용을 이해하기 쉽게 정리해 놓았습니다. 가장 앞선 정보를 담은 이 책은 앞으로 AI 시대를 살아갈 모든 사람들의 필독서가 될 것입니다. 경찰계, 법조계 주요 인사들이 주목한 책! 이 책은 경찰대 행정학과 교수, 법학전문대학원 명예 교수, 법무법인 변호사 등 실무 전문가들의 검토를 거쳤으며 발간하기 전부터 ‘AI 시대, 꼭 읽어야 할 도서’로 추천을 받았습니다. 특히 현직 변호사, 교수들이 공동 추천사를 남기며 "AI 시대의 범죄 대응 교과서", "법과 기술의 간극을 메우는 필독서"로 극찬했습니다. AI 범죄와 법제에 관련하여 가장 신뢰도 높은 해설서로 자리매김할 이 책은 실무자뿐 아니라 일반 시민에게도 필수적인 지식과 인사이트를 제공합니다.