글로벌 리서치&자문 회사인 가트너가 선정한 한국 최초의 디지털 전환 글로벌 모범 사례 ‘AIDA’ 와 ‘HWADAP’ - 그 개발을 주도한 DT 담당 임원(CIO/CDO)이 알려주는 AI 시대 디지털 전환과 3가지 핵심 기술 저자는 한화그룹에서 약 30년 동안 IT, 스마트팩토리, AI, 클라우드, 블록체인 등의 사업을 추진하면서 디지털 전환의 모든 과정을 현장에서 생생하게 경험했다. 그리고 2023년에 (주)한화에 구축한 ‘데이터 분석 플랫폼(HWADAP)’과 ‘생성형 AI 기반 챗봇(AIDA)’은 글로벌 리서치&자문 회사인 가트너사에 의해 한국 최초로 디지털 전환의 글로벌 모범 사례로 선정되었다. 이러한 풍부한 현장경험과 개발 경험을 토대로 AI 시대의 디지털 전환과 3가지 중요한 기술, 즉 클라우드, AI/ML(머신러닝), 생성형 AI에 관해 곁가지를 걷어내고 그 핵심만을 뽑아서 실용적 관점에서 정리하여 이 책에 담았다. 한 마디로 이 책은 AI 시대의 디지털 전환과 3가지 핵심 기술에 관한 교과서라고 할 수 있다.

저자 : 정해진 · 현) 한화시스템 상무 · 전) (주)한화 CIO/CDO · 2023년 데이터 분석 플랫폼 HWADAP 구축 · 2023년 생성형 AI 챗봇 AIDA 구축 · 2023년 가트너 Asia Exchange Conference(싱가포르)에서 ㈜한화 디지털 전환 사례 발표 · 2024년 데이터브릭스 Data+AI Summit 2024(샌프란시스코)에서 ㈜한화 디지털 전환 사례 발표 1997년 한화그룹에 입사하여 약 30년 동안 IT, 스마트팩토리, AI, 클라우드, 블록체인 등의 사업을 추진하면서 디지털 전환의 모든 과정을 현장에서 생생하게 경험했다. 이러한 풍부한 현장 경험과 지식을 바탕으로 2023년 (주)한화의 대표적인 디지털 전환 프로젝트인 ‘데이터 분석 플랫폼(HWADAP, 화답)’과 ‘생성형 AI 기반 챗봇(AIDA, 에이다)’ 개발을 주도했다. ‘화답’과 ‘에이다’는 글로벌 리서치&자문 회사인 가트너에 의해 모범적인 디지털 전환 사례로 선정되어 가트너의 홈페이지에 등재되었고, 2023년 11월 싱가포르 인시아드 대학원에서 가트너사가 주최한 Asia Exchange Conference에서 주제 발표자로 초청받아 ㈜한화의 디지털 전환 사례를 발표했다. 또한, 2024년 6월 미국 샌프란시스코에서 열린 데이터브릭스사의 'Data+AI Summit 2024'에서 주제 발표자로 선정되어 ‘화답’과 ‘에이다’의 사례를 발표했다. 바쁜 직장 생활 중에도 자기 계발에 진심이어서 고려대학교 MBA를 졸업했으며, Harvard Business School AMP와 고려대학교 기술경영전문대학원 AMP 과정을 이수했다.

디지털 전환 조직을 IT 조직과 별도의 조직으로 구성하거나, 현업 인재를 선발하여 디지털 전환 과제를 수행하게 하는 조직이 대부분 이와 유사한 시행착오를 경험한다. 이런 경험은 국내뿐 아니라 글로벌한 현상이기도 하다. 가트너는 이러한 문제를 해결하기 위한 최적의 조직 모델로 ‘퓨전 팀’을 제안했다. 이는 현업의 도메인 지식을 보유한 인재, 데이터 분석가, 기존 IT 인력(개발자, 인프라 전문가, DBA 등) 을 혼합하여 조직을 구성해서 디지털 전환 프로젝트를 수행하는 모델을 의미한다. 이는 애자일 조직과도 유사한 면이 있다. 즉, 기존 조직 구조를 그대로 유지하면서 과제에 필요한 다양한 인력을 모아 태스크포스 형태로 조직을 운영하거나, 아예 퓨전 조직을 새롭게 구성하는 방법이다 (28쪽)

PaaS는 프로젝트의 근본 목적을 달성하는 데 매우 유용한 도구다. 예를 들어, 데이터 기반 의사결정을 위한 대시보드 시스템을 구축한다고 가정하면, 업무 영역은 크게 데이터 분석 플랫폼과 시각화 부분으로 나눌 수 있다. 일반적으로 데이터 분석 플랫폼 구축이 시각화보다 훨씬 더 복잡하고 어렵다. 확보된 자원과 역량이 충분하다면, 자체 데이터 분석 플랫폼을 구축하는 것이 좋지만, 서비스 방식으로 제공되는 PaaS를 활용하면 플랫폼 구축에 드는 시간, 비용, 그리고 리스크를 상당히 절감할 수 있다. 따라서 자체적으로 플랫폼을 구축하기가 부담스럽다면, PaaS를 사용하는 것이 좋다. 검증된 PaaS를 활용하면, 도구를 구축하는 데 시간을 낭비하지 않고 프로젝트의 핵심에 집중할 수 있다. (70쪽~71쪽)

그렇다면 AI에서 모델은 무엇일까? 모델은 여러 개의 알고리즘, 개발, 데이터, 학습 등 다양한 요소의 집합체를 의미한다. AI 프로젝트를 수행하면 ‘AI 모델’이 만들어지는데, ‘설비 예지보전 모델’, ‘자동차 파손 부위 식별 모델’, ‘실손 보험 심사 모델’ 등이 바로 모델의 예라고 할 수 있다. 한 마디로 모델은 알고리즘, 학습용 데이터, 개발을 통해 문제를 해결하는 데 사용되는 것으로, 이 개념을 명확하게 이해하지 못하면 ‘알고리즘을 개발했다’라거나 ‘모델을 개발했다’라는 식의 표현을 혼용하게 된다. 그리고 모델 개발에는 학습용 데이터가 필요하다. 학습용 데이터 없이는 모델을 만들 수 없다. (150쪽)

생성형 AI는 딥러닝에 속하며, 특히 텍스트 생성 기능이 많이 활용되기 때문에 자연어 처리 기술이 사용된다. 자연어 처리 기능은 사람이 사용하는 자연어의 의미를 분석하여 컴퓨터가 이를 이해하고 처리할 수 있도록 하는 기술이다. 이미지 생성을 담당하는 생성형 AI는 컴퓨터 비전과 관련이 있다. 컴퓨터 비전은 이미지 인식, 물체 인식, 처리 등을 다루는 AI 코어 기술 중 하나다. 간단히 말하면, 생성형 AI와 대규모 언어 모델은 딥러닝, 자연어 처리, 컴퓨터 비전의 결합으로 이루어져 있다. (193쪽)

sLLM은 작은 규모의 언어 모델로 기업에서 보안을 유지하면서도 원하는 내용을 학습시킬 수 있는 모델이다. LLM은 범용적 모델로 데이터 세트가 매우 커서 학습에 상당한 비용이 수반되며, 기업에 맞게 커스터마이징하기 어렵다는 단점이 있다. 반면에 sLLM은 범용 목적이 아니기 때문에 반드시 대규모로 학습시킬 필요가 없다. 말을 생성하는 기능은 기본 언어 모델을 사용하되 기업에서 필요한 데이터 세트로 학습시킬 수 있다. 이는 기존 LLM에서 학습이 안 되는 문제를 해결할 뿐만 아니라, 소규모 모델이라 대규모 GPU가 필요 없고 큰 비용이 들지도 않는다. 그리고 sLLM에서 이뤄지는 질의응답이 외부에 노출되지 않아 보안 이슈도 해결할 수 있다. (206쪽~207쪽)

문서 분석 메뉴에서 사용자에게 보이는 것은 챗봇이지만, 그 뒤에는 데이터를 수집, 분석, 시각화하는 클라우드 기반의 데이터 분석 플랫폼이 구성되어 있어서 원본 데이터에서 생성형 AI까지의 연결이 훨씬 더 수월하다. 이 문서 분석 메뉴는 AWS 위에 데이터브릭스를 구축하고, MS 애저 오픈AI를 활용하여 생성형 AI 기반 챗봇 서비스를 구성했다. 이 사례는 한국 기업 최초로 가트너의 Customer Success Story 웹사이트에 소개되었을 뿐만 아니라, 데이터브릭스의 Customer Story에도 등재되었다. (226쪽)