★ 엔비디아 젠슨 황의 성공 비결부터 ChatGPTㆍ딥시크ㆍRAGㆍAI 에이전트까지 ★ 급격히 진화하는 AI 패러다임 속 기업이 생존하고 성장하기 위한 실질적 전략! AI는 이제 더 이상 선택이 아닌 기업이 생존하기 위한 필수적인 전략이 되었다. ChatGPT를 넘어 AGI(범용 인공지능)의 문턱에 들어선 지금, AI를 단순히 도구가 아닌 비즈니스의 근본 구조를 바꾸는 힘으로 이해하고 이를 받아들이는 기업만이 살아남을 수 있다. 수십 년간 글로벌 기업과 공공기관의 기술 컨설팅을 맡아온 국내 최고의 AIㆍ빅데이터 전문가인 저자는 최신 기술 동향과 자신이 직접 현장에서 느낀 실제 사례를 엮어 경영자와 실무자 모두가 AI를 올바르게 활용할 수 있는 방안을 정리해서 제시한다. 이 책은 더 이상 AI의 환상에 기대지 말라고 강조한다. 대신 엔비디아 젠슨 황의 리더십, ChatGPT와 딥시크 등의 최신 기술 동향, RAGㆍMCP 같은 차세대 AI의 활용법을 종합적으로 아우르면서, 진짜 ‘돈 되는 AI’를 만들기 위해서는 기업의 CEO부터 AI를 확실히 이해해야 한다고 강조한다. CEO, 임원 등의 의사 결정자는 물론, 미래를 준비하는 모든 기업인이라면 반드시 읽어야 할 실전형 AI 경영서를 만나 보자.

저자 : 장동인 서울대학교 공과대학 원자핵공학과 졸업 후 미국 남가주대학교에서 컴퓨터공학 석사를 마쳤으며, 서울과학종합대학원에서 경영학 박사를 취득했다. 미국 비자카드, EDS, 아메리칸 항공, 독일 아마데우스(Amadeus), 오라클 본사에서 근무했다. 1996년 귀국하여 한국오라클 컨설팅본부 이사, 시벨코리아 지사장, SAS코리아 부사장, 딜로이트 컨설팅 파트너, 언스트앤영 컨설팅 본부장, 미래읽기컨설팅 대표 컨설턴트, 한국 테라데이터 부사장, 국방과학연구소 빅데이터 PM으로 수백 개 기업의 경영 및 IT 컨설팅을 담당했다. 빅데이터와 AI 분야 전문가로 국내 대기업 및 공공 기관, 각종 콘퍼런스에서 강의하며 다양한 매체에 기고 활동을 하고 있다. 현재 AIBB LAB 대표 및 빅데이터전문가협의회 의장으로 활동하고 있으며, KAIST 김재철 AI대학원 CAIO(Chief AI Officer) 과정 책임교수로 임하고 있다. 기업 CEO가 코딩을 할 수 있어야 AI에 대한 근본적인 이해를 할 수 있고, 그래야 기업과 조직이 산다는 신념을 가지고 한국 최초로 'CEO를 위한 AI 코딩 강의'를 6년째 해오고 있다. 대표 저서 《실무자를 위한 데이터웨어하우스》 대청, 1999 《공피고아》 쌤앤파커스, 2010 《빅데이터로 일하는 기술》 한빛미디어, 2014 《IT 전문가로 사는 법》 한빛미디어, 2016 《AI로 일하는 기술》 한빛미디어, 2022 《챗GPT시대 기업이 살아남는 법》 리코멘드, 2023

프롤로그 Chapter 01 기업이 AI 도입에 실패하는 이유 AI를 안 쓴다고 당장 망하지 않는다는 생각은 결국 실패한다 __AI 도입 실패의 주요 원인들 __[문제 해결 방안] 직원들이 왜 AI를 안 쓰는지부터 파악하라! 고립된 AI 조직으로 인해 실패한다 __AI 도입을 위한 9단계 업무 프로세스 __AI 도입을 위한 9단계 업무 프로세스의 단계별 역할 __AI 도입을 위한 9단계 업무 프로세스에서 알 수 있는 인사이트 __고립된 AI 조직의 문제점 __[문제 해결 방안] 개방된 AI 조직과 전사적인 협업만이 살길이다! AI에 대한 생각이 서로 달라서 AI 프로젝트가 실패한다 __AI 프로젝트가 산으로 가는 이유 __[문제 해결 방안] 경영진은 실무자보다 AI 공부를 더 많이 해야 한다! 외부에서 영입한 AI 전문가에게 모든 것을 맡기면 실패한다 __외부 전문가 영입 전략의 함정 __내부 인재 육성의 전략적 가치 __[문제 해결 방안] 내부 인력을 중심으로 외부 전문가는 소수 채용한다! 실패 체크 리스트와 해결 방안 __전략 및 타이밍의 부재 __조직 문화 및 인식의 문제 __기술 및 도입 방식의 오해 __[CEO를 위한 비즈니스 인사이트] 6시그마 운동을 기억하십니까? Chapter 02 돈 되는 AI 도입과 활용법 돈 되는 AI를 위한 문제 정의 방법 __문제 해결이 아닌 문제 정의부터: 4단계 필터링 가이드 __1단계: 문제를 좁고 예리하게 정의했는가? __2단계: 데이터와 연관된 문제인가? __3단계: AI로 풀 수 있는 유형인가? __4단계: 그래서 돈이 되는가?(ROI 산출) 돈 되는 AI 분야를 선택하는 다섯 가지 원칙 __원칙1: 거창한 분야가 아닌 좁고 예리한 분야에 집중하라 __원칙2: 데이터가 아닌 비즈니스 목적에서 출발하라 __원칙3: 완벽히 새로운 것보다는 검증된 성공을 활용하라 __원칙4: AI를 특수 기술이 아닌 엑셀처럼 생각하라 __원칙5: 기존 시스템을 대체하거나 강화하는 곳을 공략하라 돈 되는 AI 프로젝트를 추진하는 방법 __AI 전문가 영입 __AI 프로젝트 외주 __하이브리드 모형: 전문가 영입 + AI 프로젝트 위주 __내부 직원 교육 후 자체 구현 돈 되는 AI 업무 4단계 로드맵: HR을 중심으로 __1단계: 업무 자동화로 반복 업무 줄이기 __2단계: 예측하여 미래 내다보기 __3단계: 시뮬레이션으로 다양한 '만약'의 결과 검토하기 __4단계: 업무 최적화로 최상의 해답 찾기 __[사례1] 최적화를 위한 아이디어 찾기: 세일즈포스닷컴 __[사례2] 최적화를 위한 아이디어 찾기: 팔란티어 돈 되는 AI 도입을 위한 ABCD 방법론 __ABCD 방법론이란 __ABCD 방법론은 왜 필요한가 __1단계: 분석 및 기회 발굴(Analysis) __2단계: 문제 정의 및 설계(Blueprint) __3단계: 구현 및 실행(Create) __4단계: 성과 평가 및 발전(Develop) Chapter 03 AI 이해를 통한 비즈니스 인사이트 AI를 이해하기 전에 알아두어야 할 세 가지 최소한의 AI 역사 __AI 겨울의 근본 원인 __[CEO를 위한 비즈니스 인사이트] 왜 AI 전문가들의 과도한 약속을 믿고 막대한 연구비를 지불했을까 인공지능의 학습과 추론 __학습: 최적의 공식을 찾아내는 고된 과정 __추론: 공식을 사용하여 답을 계산하는 과정 __[CEO를 위한 비즈니스 인사이트] 학습과 추론 컴퓨터는 어떻게 인간의 언어를 이해하게 되었는가 __벡터 혁명 이야기 __임베딩 과정 __[CEO를 위한 비즈니스 인사이트] 우리 기업에서 벡터화할 수 있는 자산에는 무엇이 있는가 LLM 시대를 연 혁명적 모델: 트랜스포머 __RNN __LSTM __트랜스포머의 등장 __트랜스포머의 아키텍처 __오픈AI는 왜 디코더만으로 GPT를 만들었을까? AI를 더 똑똑하게 만드는 방법: 제1의 스케일링 법칙 __트랜스포머의 분화: 디코더 계열, 인코더 계열, 디코더-인코더 계열 __LLM 스케일링 법칙의 탄생 __프롬프트 엔지니어링의 시작 __[CEO를 위한 비즈니스 인사이트] 더 큰 모델, 더 많은 데이터, 더 많은 GPU 필요, 즉 쩐의 전쟁 GPT-3를 만들고 보니 __똑똑한 추론 능력 __상식이 없는 GPT-3의 답변 AI를 더 똑똑하게 만드는 방법: 제2의 스케일링 법칙 __GPT-3 이후 오픈AI의 고민 __[CEO를 위한 비즈니스 인사이트] 실패의 연속, 대화형 AI 서비스 비즈니스 __ChatGPT의 탄생을 위한 준비: 세계 최초 대화형 AI 서비스 __드디어 ChatGPT를 출시하다 __제2의 스케일링 법칙: RLHF __[CEO를 위한 비즈니스 인사이트] 세상의 모든 지식을 보유한 AI vs 사용자가 원하는 답을 주는 AI AI를 더 똑똑하게 만드는 방법: 제3의 스케일링 법칙 __테스트-시간 계산 __깊은 사고의 시작, O1의 출현 __현대 AI의 3단계 패러다임: 학습, 추론, 그리고 사고 딥시크의 등장 __딥시크에 관한 세 가지 핵심 질문 __딥시크의 두 번째 충격 __딥시크의 완전한 공개가 가져온 파급 효과 __ 딥시크가 준 영향 __젠슨 황의 테스트 타임 스케일링 법칙 발표가 주는 의미 __왜 얀 르쿤은 현재의 LLM으로 AGI를 달성할 수 없다고 하는가? __[CEO를 위한 비즈니스 인사이트] 테스트 타임 스케일링 법칙이 한국 AI칩 벤처에 던지는 의미 Chapter 04 AI 시대의 시스템 사고 시스템1 사고: 빠른 직관 __시스템1 사고의 특성 시스템2 사고: 신중한 논리와 분석 __시스템2 사고의 특성 __대니얼 카너먼의 생각과 이론의 영향력 시스템1 사고는 AI의 추론 모델, 시스템2 사고는 AI의 사고 모델 __시스템1, 시스템2 사고와 AI 모델의 매핑 __시스템2 사고의 한계와 AI 사고 모델의 잠재력 __기업 환경에서 AI가 시스템2 사고를 대체할 때 벌어질 일들 __[문제 해결 방안: 기업 측면] 직원은 Ai 도구의 노예가 아닌, 도구의 지휘자가 되어야 한다 __[문제 해결 방안: CEO 측면] CEO는 조직 전체의 사고력을 앞장서서 이끌어야 한다 __[CEO를 위한 비즈니스 인사이트] AI 시대 고부가가치 업무란 무엇인가 Chapter 05 기업이 선택한 AI 활용 방법, RAG 기업이 RAG를 활용해야 하는 이유 __RAG란 __RAG의 장점 기업의 RAG 프로세스 __데이터 준비 과정: AI의 지식 창고(벡터DB) 구축하기 __질의 응답 파이프라인: 지능적으로 답변 생성하기 RAG에서 오픈 소스 LLM과 클로즈드 소스 LLM의 비교 __오픈 소스 LLM의 사용 방법 __오픈 소스 LLM vs 클로즈드 소스 LLM 기반 RAG 구현 비교 분석 RAG에서 고려해야 할 점 __임베딩 모델의 신중한 선택과 관리 __문서 처리의 복잡성 __검색의 정확도를 높이는 심화 기술 __지능형 RAG 구축 Ragas란 무엇인가? __Ragas의 핵심 평가 지표 __검증 프로세스 __결과 분석 및 개선 RAG의 주요 활용 방안 __산업별 활용 방안 __RAG의 업무별 활용 방안 Chapter 06 AI 에이전트 AI 에이전트란? __일반 프로그램과 AI 에이전트의 차이 __AI 에이전트의 구조 __AI 에이전트의 장점과 한계 AI 에이전트를 구현하는 방법 __AI 에이전트 구현을 위한 주요 개발 도구 종류 __기업에서 개발 도구 선택이 왜 중요한가? 에이전트 패키지 __랭체인: AI 에이전트 개발의 표준 프레임워크 __랭그래프: 복잡한 AI 에이전트를 위한 플로우 엔지니어링 __오픈 딥 리서치 __오픈AI Agents SDK __CrewAI: 협업ㅎㄹ라는 에이전트 세계 바이브 코딩 __커서: 비주얼 스튜디오 코드 기반의 대표적인 바이브 코딩 도구 __클로드 코드: 앤트로픽의 코딩 전문 AI __제미나이 CLI: 구글 AI 기반의 커맨드라인 도우미 노코드 도구 __마이크로소프트 코파일럿 스튜디오: AI 챗봇과 에이전트를 만드는 데 최적화 __구글 에이전트 빌더: 데이터 검색 기반 AI 에이전트 개발 플랫폼 __AWS 베드락 에이전트 코어: 7개 모듈로 구성된 종합 AI 에이전트 플랫폼 __n8n: 1000개 이상 앱을 연결하는 노코드 워크플로 자동화 도구 __디파이: LLM 기반 애플리케이션 개발을 위한 올인원 노코드 플랫폼 __어시웍스: 한국 기업 실무에 특화된 노코드 AI 에이전트 플랫폼 기존 시스템과의 AI 에이전트 통합 __단순 정보 조회: AI 단독으로도 가능한 영역 __최적화: 시스템 통합 없이는 불가능한 영역 __왜 통합이 최적화의 핵심인가 __AI 에이전트 통합으로 얻는 혁신적인 이득 AI 에이전트 vs 에이전틱 AI __AI 에이전트와 에이전틱 AI의 개념 비교 __에이전틱 AI의 사례 __에이전틱 AI의 오케스트레이션 기능 __Skywork와 Genspark의 비교 __오픈AI의 ChatGPT 에이전트 AI 에이전트의 문제점 __AI 에이전트의 주요 문제점들 __AI 에이전트의 문제점을 해결하는 방안들 AI 에이전트 시대의 앱 스토어, MCP __MCP 서버와 연동된 AI 에이전트의 작동 방식 __MCP 서버와 smithery.ai __MCP의 아키텍처 __MCP의 핵심 가치 __MCP의 단점 __MCP 서버 추천 AI 에이전트의 활용 방안 __AI 에이전트의 산업별 활용 방안 __AI 에이전트의 업무별 활용 방안 Chapter 07 기업에서 AI를 도입하는 다양한 방안 국내 기업의 망분리 현황 __망분리 의무 대상 상세 분석 __망분리가 기업의 AI 활용에 어떤 제약을 주는가 데이터 보안과 아키텍처의 선택 __데이터 보안: 데이터를 지키는 방법(How) __데이터 프라이버시: 데이터를 다루는 규칙(What & Why) __전략적 절충과 하이브리드의 필요성 AI 도입을 위한 다양한 아키텍처 __A타입: 클로즈드 소스 LLM __A-1타입: 오픈AI의 Assistant API 사용 __B타입: 오픈 소스 LLM 사용 __B-1타입: 오픈 소스 LLM + 클라우드 사용 __C타입: A타입 + B타입 하이브리드 __D타입: 오픈AI의 기업형 ChatGPT __D-1타입: 오픈AI의 Team with GPTs 에필로그

한국 기업이 글로벌 트렌드를 리딩하기 위해서는 지금까지 가보지 않았던 길을 가야 합니다. 한국의 기업은 원래 열심히 일했습니다. 앞으로는 모든 직원이 열심히 하는 것은 기본이고, CEO들이 비상한 통찰력과 AI 시대를 꿰뚫는 기술적인 혜안을 가져야 합니다. 이 책은 그러한 리더십을 원하는 CEO들을 위해 썼습니다.
--- p.10

많은 기업을 컨설팅해 보면서 느낀 것은, 결국 그 기업의 AI 수준은 해당 기업 CEO들의 AI 수준보다 높을 수 없다는 것입니다. 왜 그럴까요? AI가 기업에 적용되는 과정에서 이렇게 해야 된다라는 지침이나 매뉴얼이 없기 때문입니다. AI라는 개념 자체가 매우 추상적이어서 그것을 이해하는 수준이 사람마다 천차만별이기 때문에 CEO는 자신들의 수준 이상을 기대하지 못합니다. 그러니 아무리 열심히 해도 딱 그 수준까지만 가게 되는 것입니다.
--- p.13

AI 프로젝트가 실패하는 데는 수많은 이유가 있지만, 가장 근본적인 원인은 바로 경영진과 실무진 사이의 AI에 대한 인식과 기대치의 거대한 간극에 있습니다. 이는 마치 여러 장님이 각자 다른 부위를 만지며 코끼리 전체를 상상하는 것과 같습니다. 이 간극이 프로젝트를 표류하게 하고 결국 실패로 이끌기도 합니다.
--- p.45

경영진은 AGI급 환상에서 벗어나 AI의 현재 가능성과 한계를 명확히 이해해야 하며, 실무진은 AI 기술의 현실적 구현에 대해 처음부터 솔직하게 이야기하는 편이 좋습니다. 그래야 경영진이 불필요한 기대치를 갖지 않습니다.
--- p.47

리더의 진정한 의지는 사람 중심의 AI 도입으로 나타나야 합니다. AI 프로젝트는 현업을 가장 잘 아는 직원들이 각자의 영역에서 변화를 주도할 때 성공합니다. 이를 위해서는 부서 간 벽을 허무는 협업이 필수이며, 수평적 문화 속에서 나오는 집단지성의 목소리가 자유롭게 제안되고 신속하게 경영에 반영되는 통로가 마련되어야 합니다.
--- p.367

★ AI 무지를 벗어나는 자만이 묻지마 투자의 함정을 피할 수 있다! ★ 보여주기식 프로젝트가 아닌, 진짜 ‘돈 되는 AI’ 도입의 종합 내비게이션! ChatGPT 이후 전 세계는 AGI(범용 인공지능) 시대로 접어들고 있다. 그러나 많은 기업이 AI를 도입하면서도 괄목할 만한 성과를 내지 못하고 있는 실정이다. 시스템은 도입했지만 현업과 연결되지 못하거나, 경영진의 이해 부족으로 실행 단계에서 좌초되는 경우가 비일비재하다. 저자는 그 원인을 ‘AI를 기술로만 보는 시각’에서 찾는다. 기업의 AI 수준은 결국 CEO의 이해 수준을 넘을 수 없으며, AI 프로젝트의 90%는 첫 문제 정의 단계에서부터 실패하는 경우가 많다는 것이다. 이 책은 단순히 AI 기술을 소개하는 입문서에 머무르지 않고, ‘어떻게 하면 AI를 기업 전략과 연결할 것인가’라는 본질적인 질문에 대한 해답을 내놓는다. 무조건 AI 도입부터 하는 것보다 중요한 건 이를 어떻게 전략적으로 활용하느냐이다. 제대로 준비된 기업만이 AI로 새로운 기회를 창출하고, 준비되지 못한 기업은 시장에서 곧 사라지는 시대이다. 이 책은 그 중요한 기로에 선 기업과 CEO들에게 AI 도입의 정확한 나침반이 되어 줄 것이다. ▶ ‘돈 되는 AI’를 위한 문제 정의 방법 4단계 - 1단계: 문제를'좁고 예리하게 정의했는가? - 2단계: 데이터와 연관된 문제인가? - 3단계: AI로 풀 수 있는 유형인가? - 4단계: 그래서 돈이 되는가? ▶ ‘돈 되는 AI’ 도입을 위한 ABCD 방법론 - 1단계: 분석 및 기회 발굴(Analysis) - 2단계: 문제 정의 및 설계(Blueprint) - 3단계: 구현 및 실행(Create) - 4단계: 성과 평가 및 발전(Develop) ▶ AI 에이전트 구현을 위한 주요 개발 도구 소개 - 에이전트 패키지: 랭체인, 랭그래프, 오픈AI Agents SDK, CrewAI - 바이브 코딩: 커서, 클로드 코드, 제미나이 CLI - 노코드: 마이크로소프트 코파일럿 스튜디오, 구글 에이전트 빌더, AWS 베드락 에이전트 코어, n8n, 디파이, 어시웍스 ▶ AI 도입을 위한 다양한 아키텍처 - A타입: 클로즈드 소스 LLM - A-1타입: 오픈AI의 Assistant API 사용 - B타입: 오픈 소스 LLM 사용 - B-1타입: 오픈 소스 LLM + 클라우드 사용 - C타입: A타입 + B타입 하이브리드 - D타입: 오픈AI의 기업형 ChatGPT - D-1타입: 오픈AI의 Team with GPTs ▶ 이 책이 필요한 독자 - AI를 기업 경영에 적용하고자 하는 CEO 및 임원 - 각종 AI 도입 전략을 구상하는 기획자 및 기업 컨설턴트 - AI 기술로 업무 혁신을 이루고 실제 비즈니스와 연결하고자 하는 실무자 - AI 혁신을 통해 미래 경쟁력을 확보하려는 기업인 - AGI 시대의 비즈니스 방향을 고민하는 모든 사람