최근 딥페이크 및 딥보이스를 비롯하여 AI와 관련하여 점점 더 급증하고 있는 불미스러운 사건들의 심각성과 함께 AI 신뢰성의 중요성이 전례 없이 부각되고 있음에도 불구하고, 실제 국내외 AI 시스템의 개발과 운영 현장에서는 AI 신뢰성에 대한 체계적이고 심층적인 고려가 아직 충분하지 않은 것이 현실입니다. 이러한 현실의 바람직한 개선을 위한 노력의 일환으로, 본서는 한국지능정보시스템학회(Korea Intelligent Information Systems Society, KIISS) 산하 AI 신뢰성 연구회 소속 전문가 9인(영남대 허용석 교수, 경희사이버대 이주민 교수, 부산대 김은미 연구교수, 한국교통대 정해민 교수, 소프트웨어정책연구소 조원영 박사, 부산대 이민혁 교수, 명지대 김형진 교수, 조선대 권보람 교수, 투이컨설팅 김인현 대표)이 공동 집필하였습니다. 1993년에 설립된 한국지능정보시스템학회(KIISS)는 오랜 전통과 높은 전문성을 자랑하는 AI 분야 전문학술단체이며, AI 신뢰성 연구회는 2024년 5월 1일에 AI 신뢰성 분야에 특화된 연구를 위해 한국지능정보시스템학회(KIISS)에서 창립되어 AI 신뢰성 연구와 담론의 허브 역할을 하고 있습니다. 특히, 2024년 한국지능정보시스템학회(KIISS) AI 신뢰성 연구회에서 발간한 〈AI 신뢰성의 이해와 실천〉(허용석ㆍ이주민ㆍ이광연ㆍ김은미ㆍ정해민ㆍ조원영 공저, 도서출판 청람)은 2025년 대한민국학술원 우수학술도서로 선정되는 쾌거를 이루어, AI 신뢰성 관련 연구의 우수성을 인정받았습니다. 본서는 한국지능정보시스템학회(KIISS) AI 신뢰성 연구회에서 발간하는 두 번째 학술서로서, 〈AI 신뢰성의 변화와 과제〉라는 제목으로 AI 신뢰성과 관련된 다음과 같은 아홉 가지의 주요 내용을 집중적으로 조명하고 있습니다. 1. 신뢰가능한 AI에 기반한 지속적인 경쟁우위 창출: AI 신뢰성 연구의 주요 흐름 고찰과 AI 신뢰성 확보를 위한 제언(1장) 2. AI와 인간: 도구를 넘어 신뢰를 함께 만드는 시대(2장) 3. AI를 믿을 수 있는 힘: 설명가능성(3장) 4. AI 공정성 확보를 위한 분야별 과제와 정량적 지표(4장) 5. 지속가능한 혁신을 위한 AI 신뢰성 정책의 과제(5장) 6. AI 강건성의 중요성과 방향성(6장) 7. AI 기반 위조 기술과 사회적 신뢰의 붕괴(7장) 8. AI 신뢰성 확보를 위한 윤리, 규제, 표준화 및 인증(8장) 9. AI 경영 시스템 도입방안(9장) 본서가 AI의 바람직한 발전과 책임 있는 활용에 기여하는 의미있는 밑거름이 되기를 진심으로 기원합니다.

Chaptert 1 신뢰가능한 AI에 기반한 지속적인 경쟁우위 창출: AI 신뢰성 연구의 주요 흐름 고찰과 AI 신뢰성 확보를 위한 제언 1.1 서론: AI 신뢰성과 지속적인 경쟁우위 창출들 1.2 본론: AI 신뢰성 관련 5대 주요 연구 흐름 고찰들 1. AI 신뢰성 관련 주요 연구 흐름 Ⅰ: AI 신뢰성 구성요소 중심 연구들 2. AI 신뢰성 관련 주요 연구 흐름 Ⅱ: AI 신뢰성 위계적 계층구조 중심 연구 3. AI 신뢰성 관련 주요 연구 흐름 Ⅲ: 사회 기술 시스템 기반 AI 신뢰성 연구 4. AI 신뢰성 관련 주요 연구 흐름 Ⅳ: AI 시스템 생애주기 기반 AI 신뢰성 연구 5. AI 신뢰성 관련 주요 연구 흐름 Ⅴ: AI 거버넌스 기반 AI 신뢰성 연구 1.3 결론: AI 신뢰성 확보를 위한 6대 제언 1. AI 신뢰성 확보를 위한 제언 Ⅰ: AI 신뢰성은 지속적인 경쟁우위 창출의 필수 요소이며 전략적으로 관리되어야 하는 ‘핵심 품질’이라는 전사적 공감대 확립 필요 2. AI 신뢰성 확보를 위한 제언 Ⅱ: 자사의 제품 및 서비스와 내외부 프로세스에 맞는 AI 신뢰성의 필수 구성요소의 선제적이며 능동적인 파악 필요 3. AI 신뢰성 확보를 위한 제언 Ⅲ: 자사에 적합한 AI 신뢰성의 필수 구성요소들의 상대적인 영향력(중요도) 분석 필요 4. AI 신뢰성 확보를 위한 제언 Ⅳ: 효과적인 AI 신뢰성 확보를 위한 다차원적인 시각과 접근법 필요 5. AI 신뢰성 확보를 위한 제언 Ⅴ: AI 시스템 생애주기 차원의 역동적 관점에 기반한 AI 신뢰성 관리 필요 6. AI 신뢰성 확보를 위한 제언 Ⅵ: AI 거버넌스를 통한 AI 신뢰성의 전략적 관리 필요 [참고문헌_ References] Chaptert 2 AI와 인간: 도구를 넘어 신뢰를 함께 만드는 시대 2.1 서론: 신뢰의 풍경이 바뀌고 있다! 2.2 본론 1. 신뢰에 대한 이해 2. 신뢰는 어떻게 형성되는가? 다차원 프레임워크를 통한 AI 신뢰의 이해 3. 시간 흐름에 따른 신뢰의 진화 4. AI와의 관계 관점에서의 신뢰 5. 의인화된 AI, 신뢰를 유도하다 6. AI 신뢰의 그림자: 의도하지 않은 결과와 위험 2.3 결론: 신뢰할 수 있는 AI, 우리가 함께 설계해야 할 미래 [참고문헌_ References] Chaptert 3 AI를 믿을 수 있는 힘: 설명가능성 3.1 서론 1. 기계도 사람처럼 생각할 수 있다 2. AI가 내린 결정을 믿을 수 있을까 3. 설명가능성은 선택이 아닌 필수 3.2 본론 1. AI의 진화는 계속된다 2. AI 진화에 따른 XAI의 필요성 3. XAI 기법의 발전과정 4. 인간 중심의 XAI 3.3 결론 1. XAI의 중요성과 역할 2. 인간 중심 XAI의 가치와 진화 방향 3. 설명가능성이 나아가야 할 방향 [참고문헌_ References] Chaptert 4 AI 공정성 확보를 위한 분야별 과제와 정량적 지표 4.1 서론 4.2 공정성 이슈 1. 응용 도메인에 따른 공정성 이슈 2. 모달리티에 따른 공정성 이슈 4.3 공정성 개념 및 지표 1. 공정성 개념 2. 공정성 지표의 분류 3. 사례를 통한 공정성 개념 및 지표의 이해 4. 개인 기준 공정성 지표 5. 공정성 개념 및 지표 선택 전략 6. 공정성 지표 간의 상충관계 4.4 결론 [참고문헌_ References] Chaptert 5 지속가능한 혁신을 위한 AI 신뢰성 정책의 과제 5.1 정부의 AI 신뢰성 정책은 왜 필요한가? 5.2 정부의 AI 신뢰성 정책은 어떻게 이뤄지는가? 5.3 AI 신뢰성 정책의 글로벌 거버넌스 5.4 AI 신뢰성 정책의 산업별 적용과 그 효과 1. 자동차 산업의 AI 신뢰성 정책 2. 금융산업의 AI 신뢰성 정책 3. 헬스케어 산업의 AI 신뢰성 정책 4. AI 신뢰성 정책과 산업 성장의 관계 5.5 사전적(Ex-ante) 정책과 사후적(Ex-post) 정책의 균형 5.6 결론 [참고문헌_ References] Chaptert 6 AI 강건성의 중요성과 방향성 6.1 서론 1. 컴퓨터 비전 모델에 대한 스티커 교란 공격 연구 2. 테슬라 오토파일럿의 인식 오류로 인한 사고 3. 마이크로소프트 테이(Tay) 챗봇 사건 4. 악성코드 ‘Skynet’의 프롬프트 인젝션 공격 5. HSBC 음성 인증 보안 취약 사례 6.2 AI 강건성의 개념과 정의 1. 제어 이론 및 최적화 분야 2. 통계학 분야 3. 소프트웨어 및 시스템 공학 분야 4. 인공지능 및 머신러닝 분야 6.3 AI 강건성 연구의 주요 흐름과 발전 1. 딥러닝 이전: 전통적 강건성 개념의 정의와 해석(2004~2009년) 2. 딥러닝의 도입과 취약성 발견(2010~2014년) 3. 적대적 공격ㆍ방어 연구의 본격화(2015~2017년) 4. 이론 기반 강건성의 인증 기법과 다분야 확산 (2018~2020년) 5. 대규모 언어모델(LLM) 중심 강건성, 벤치마크 및 규제 대응(2021~2025년) 6.4 강건한 AI를 위한 조직적 과제와 노력 [참고문헌_ References] Chaptert 7 AI 기반 위조 기술과 사회적 신뢰의 붕괴 7.1 서론 1. 딥페이크 기술 개요 2. 딥보이스 기술 개요 3. 모델 붕괴: 생성형 AI와 신뢰할 수 없는 정보 생태계 7.2 본론 1. 기술적 대응 전략 2. 예방을 위한 전략 3. 대응을 위한 전략 7.3 결론 1. 기술·정책·사회문화의 통합 대응 필요성 2. 대한민국의 대응 방향: 디지털 신뢰 회복을 위한 실천 과제 [참고문헌_ References] Chaptert 8 AI 신뢰성 확보를 위한 윤리, 규제, 표준화 및 인증 8.1 서론 8.2 본론 1. 모두 윤리를 우선으로 두고 있을까? 2. AI 규제의 필요성과 그 역할 3. AI 신뢰성을 위한 표준 및 인증제도 8.3 결론 [참고문헌_ References] Chaptert 9 AI 경영 시스템 도입방안 9.1 AI 경영 시스템 대두 9.2 AI 경영 시스템의 개념 1. 경영 시스템의 의미와 발전 2. 경영활동에 AI 적용 확산 3. AI 도입에 따른 경영 시스템의 변화 방향 9.3 AI 경영 시스템 참조 모델 1. ISO/IEC 42001: 국제표준 AI 경영 시스템 2. NIST AI RMF: 리스크 관리 프레임워크 3. EU AI Act: 법적 규제 프레임워크 4. 우리나라 AI 기본법: 산업 진흥과 신뢰 기반 조성 5. 참조 모델 비교 분석 및 시사점 9.4 AI 경영 시스템 구성과 도입 1. AIMS 개념 2. AIMS의 관리 대상 리스크 3. AIMS 구성 4. AIMS 도입방안 [참고문헌_ References]