“인공지능의 미래는 기술 자체의 발전 속도가 아니라, 우리가 어떤 가치와 윤리적 원칙을 세우고 이를 실천하느냐에 달려 있다 AI 시대를 살아간다는 것은 무엇을 의미하는가? 인공지능의 발전은 우리 사회에 어떤 영향을 미치고 어떤 변화를 가져올 수 있는가? 그리고 이러한 변화에 어떻게 대응해야 할 것인가? 인공지능 시대의 변화는 데이터 기반 기술혁신을 바탕으로 공공서비스 혁신과 산업 융합을 이끌어내고, 개인의 삶과 사회 전반에 걸쳐 근본적인 변화를 만들어내고 있다. 인공지능을 둘러싼 윤리와 가치 논의는 선택이 아닌 필수이며, 인공지능 기술의 신뢰성과 사회적 수용성을 결정짓는 핵심 요소가 될 것이다. 이 책은 인공지능 기술로 인해 제기되는 다양한 쟁점을 사회학, 산업공학(반도체), 법학(AI 저작권), 윤리학, 정책학(AI 격차 문제), 미디어(AI 기반 콘텐츠), 디자인 등 여러 학문 분야를 포괄하는 다학제적이고 융합적인 관점에서 심도 있게 고찰한다. 나아가 인공지능 시대의 인간과 기술의 관계, 사회적으로 바람직한 인공지능을 위한 정책적 실천과 윤리적 성찰의 방향을 제시한다.

저자 : 성욱준 서울과학기술대학교 IT정책전문대학원 AI공공정책 전공 부교수. 저자 : 김자희 서울과학기술대학교 IT정책전문대학원 산업정보시스템 전공 교수. 저자 : 김사라은경 서울과학기술대학교 지능형반도체공학과 교수. 저자 : 이영주 서울과학기술대학교 IT정책전문대학원 융합미디어콘텐츠정책 전공 교수. 저자 : 강태임 서울과학기술대학교 IT정책전문대학원 IT디자인융합 전공 교수. 저자 : 박소현 서울과학기술대학교 IT정책전문대학원 디지털문화정책 전공 교수. 저자 : 이광석 서울과학기술대학교 IT정책전문대학원 디지털문화정책 전공 교수. 저자 : 황주성 서울과학기술대학교 IT정책전문대학원 AI공공정책 전공 교수. 저자 : 김현경 서울과학기술대학교 IT정책전문대학원 융합미디어콘텐츠정책 전공 교수.

프롤로그 제1장 인공지능 시대의 인간과 기술, 그리고 정책 쟁점들_성욱준 1. 기술과 사회의 관계?2. 디지털 기술과 사회적 변화?3. 인공지능 시대의 개념과 전개 과정?4. 인공지능 시대의 정책 쟁점들?5. 인공지능 시대의 정책 대응 제1부 인공지능의 기술·산업적 이해 제2장 인공지능의 겨울은 다시 올 것인가?_김자희 1. 컴퓨터 이전 시대의 인공지능?2. 인공지능의 정의와 분류?3. 인공지능의 도전과 좌절?4. 기계학습과 딥러닝?5. 인공지능의 윤리적 위협 제3장 인공지능 반도체 기술과 산업_김사라은경 1. 인공지능과 반도체?2. 인공지능 반도체 역사?3. 인공지능 기술을 위한 반도체 핵심 기술?4. 인공지능 반도체 시장?5. 미래 인공지능 반도체 전망 제4장 인공지능과 콘텐츠_이영주 1. 인공지능이 콘텐츠 산업에 미치는 영향?2. 인공지능 기반 콘텐츠 기획과 제작?3. 인공지능과 콘텐츠 유통: 개인화와 추천 시스템?4. 텍스트 콘텐츠와 인공지능?5. 인공지능이 이끄는 콘텐츠 산업의 미래 전망 제5장 인공지능이 그리는 디자인의 미래_강태임 1. 디자인 혁신을 이끄는 인공지능의 역할과 과제?2. 생성형 인공지능 기술의 원리와 디자인 기술?3. 생성형 인공지능 디자인 기술의 발전 흐름?4. 디자이너의 역할 변화와 전략적 대응?5. 인공지능 디자인 시대의 교육 변화와 윤리적 과제?6. 생성형 인공지능과 인간 창의성의 공진화 제2부 인공지능의 사회·문화·정치적 이해 제6장 ‘인공지능 미래학’에 사로잡힌 세계: ‘특이점’이라는 문화적 상상의 여파_박소현 1. 들어가며: 인공지능이라는 ‘문화 현상’?2. 인공지능을 통해 인간은 어떤 미래를 꿈꾸는가?: 불멸과 멸절의 ‘인공지능 미래학’?3. ‘특이점’을 향해 앞만 보고 달리기: ‘인공지능 미래학’의 국가 정책화?4. 나오며: ‘특이점’이라는 문화적 상상은 누구를 위한 것인가 제7장 인공지능의 접근 유형 및 특징: 인공지능 시민 주권을 위해_이광석 1. 한국형 인공지능의 안착 방식?2. 인공지능에 대한 접근 유형?3. 인공지능 시민 주권 확장을 위하여 제8장 인공지능 격차는 무엇이고, 인공지능 리터러시는 “또” 무엇인가?_황주성 1. 인공지능 격차란??2. 지식계층체계에서 지능의 위상?3. 인공지능이 흉내 낼 수 없는 영역, AI 리터러시의 출발점?4. 인공지능 리터러시, 무엇이고 어디에 중점을 두어야 할 것인가??5. 인간과 사회는 무엇을 어떻게 해야 하나? 제9장 인공지능과 저작권 규범의 조화_김현경 1. 인공지능, 인간 창작의 도구 vs. 경쟁?2. 인공지능을 둘러싼 저작권 분쟁 현황?3. 인공지능 학습 데이터 이용은 저작권 침해인가, 공정이용인가?4. 인공지능 창작의 권리 인정은 필요한가?5. 인공지능 생성물 식별 의무 규범?6. 규제인가, 자율인가? 에필로그 제10장 메아리 동굴: LLM으로 쌓은 개인의 안락하고 단절된 세계_김자희 1. 당신의 연인, 친구, 그리고 상담사… 인공지능?2. 플라톤의 동굴에서 반향실 효과까지?3. 메아리 동굴: 나를 반사하는 인공지능의 거울?4. 설득력이 있는 메아리 동굴?5. 우리가 마주한 새로운 도전

생성형 인공지능은 사실과 다른 정보를 매우 자연스럽게 만들어낼 수 있는데, 실제로 2023년 뉴욕 법원에서는 챗GPT(ChatGPT)가 잘못된 판례를 인용해 변호사가 문제를 일으킨 사례가 있었다. 이를 방지하기 위해서는 생성형 인공지능에 사실 검증 기능을 통합하고, 고위험 분야에서는 인간 검토를 의무화해야 한다. _ 23~24쪽/ 제1장 인공지능 시대의 인간과 기술, 그리고 정책 쟁점들

데이터를 기반으로 구축되는 인공지능의 또 다른 문제는 학습 데이터에 포함된 개인정보를 어떻게 보호할 것인지에 대한 프라이버시 문제이다. … 예를 들어, 처방전에 암호화된 주민등록번호가 포함된 데이터를 분석한 결과, 이를 역추적해 해당 환자 정보를 산출할 수 있었다. 개인정보 보호를 위한 데이터 익명화도 완벽하지 않다. 넷플릭스는 2007년부터 2009년까지 영화 평점 데이터를 활용해 추천 알고리즘을 개선하려는 대회를 개최했으나, 이 데이터를 IMDB의 데이터와 결합한 연구에서 특정 사용자가 식별 가능하다는 결과가 나왔다. 특히, 여섯 편 이상 영화를 평가한 사용자들은 99% 확률로 개인이 특정되었다. 이 사건은 대회의 폐지와 대규모 법적 문제로 이어졌다. _ 69쪽/ 제2장 인공지능의 겨울은 다시 올 것인가?

인공지능 구현에서 연산 능력 못지않게 중요한 요소는 바로 대용량 데이터를 저장하고 이를 빠르게 처리하는 기술이다. 특히 인공지능 기술에서는 데이터를 실시간으로 처리하고, 연산을 원활하게 진행하기 위해 대용량 데이터 저장과 고속 전송이 필수적이다. 이를 가능하게 하는 핵심 기술이 바로 고성능 메모리반도체이다. 메모리반도체는 데이터를 저장하고 빠르게 불러올 수 있는 능력으로 인공지능의 성능을 크게 향상시킬 수 있으며, 특히 대규모 데이터를 실시간으로 처리하는 데 중요한 역할을 한다. 대표적인 고속 데이터 전송과 대용량 데이터 저장이 가능한 메모리반도체는 HBM(High Bandwidth Memory)과 PIM(Process-In-Memory)이다. _ 85~86쪽/ 제3장 인공지능 반도체 기술과 산업

언론사에서 인공지능을 활용하여 기사를 작성하는 대표적인 사례는 AP 통신과 로이터 통신, 그리고 ≪LA 타임스≫의 퀘이크봇(Quakebot)을 들 수 있다. 국내에서는 2014년 IT 전문 매체인 ≪테크홀릭≫이 내놓은 ‘테크봇’이 자동 기사 작성을 한 것이 최초의 사례라고 볼 수 있다. 테크봇은 조회 수와 소셜미디어 공유 횟수를 바탕으로 한 주간의 인기 기사를 추출하여 기사를 작성했다. 이후 실제 기자처럼 기사를 처음부터 끝까지 작성한 인공지능 기자는 2016년 ≪아시아경제≫가 만든 ‘아경봇’을 들 수 있다. … 방송사 중에서는 2017년 SBS가 대통령 선거 방송 시 ‘나리(NARe: News by Artificial Intelligence Reporter)’를 이용하여 투표율과 개표율 데이터로 기사를 생성하여 개표 방송에 활용한 것이 최초이다. _ 127~128쪽/ 제4장 인공지능과 콘텐츠

인공지능은 학습 데이터의 분포와 편향을 그대로 반영하기 때문에, 특정 인종, 성별, 문화에 대한 고정된 이미지를 반복적으로 생성하는 경향이 있다. 예를 들어, ‘CEO’나 ‘엔지니어’라는 프롬프트에 대해 인공지능이 주로 백인 남성의 이미지를 생성하는 것은 데이터 편향에서 기인하며, 이는 사회적 고정관념을 강화하고 시각적 다양성을 저해할 수 있다. 끝으로 ‘디자이너 책임의 불분명성’이 존재한다. 인간 디자이너가 아닌 인공지능이 생성한 결과물의 창작적 책임이 누구에게 있는지 명확하지 않으며, 그 결과물에 문제가 발생했을 경우 책임 주체를 명시하기 어렵다. _ 151쪽/ 제5장 인공지능이 그리는 디자인의 미래

딥러닝 기술을 개발해 튜링상(Turing Award)과 노벨물리학상을 받은 제프리 힌튼(Geoffrey Hinton) 교수는 2023년에 인공지능의 위험성을 경고하며 오랫동안 함께 일해 온 구글을 퇴사했다. 힌튼에 따르면, 인공지능에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼 수 있는데, 가령 인공지능에게 기후변화를 막도록 지시하면 이 목적을 달성하기 위해서는 인간을 없애야 한다고 판단해 실행에 옮길 위험성도 있다는 것이다. 그는 10년도 안 걸려 자율적으로 인간을 죽이는 로봇 병기가 등장할 것이라 주장하며, 인공지능이 30년 안에 인류를 멸망시킬 확률이 10%에 달한다고 말했다. _ 168쪽/ 제6장 ‘인공지능 미래학’에 사로잡힌 세계

인공지능 연구자 케이트 크로퍼드(Kate Crawford)는 인공지능 인클로저 질서의 비판적 실재를 드러내는 자신만의 방식을 인공지능 ‘지형학 혹은 지리학적 접근(a cartographic or topographical approach)’이라 언급한다. 그는 인공지능을 청정의 비물질 기술로 과잉 표상하고 이에 윤리적 주석을 덧붙이는 실용주의적 관점을 반박하고, 인공지능 지형학적 탐색을 통해 그 심연에 존재하는 광물 채굴, 데이터 채굴, 착취적 노동 관행 등 비판적 실재의 구체적 지형을 일관되게 드러내고자 한다. _ 199쪽/ 제7장 인공지능의 접근 유형 및 특징

인공지능 분야의 학자들은 서서히 인간 실존에 대해 문제를 제기하고 있다. 인공지능이 협업 도구를 넘어 인간의 육체적·정신적 역할을 대체해 버리면, 인간은 무엇을 해야 하는가라는 문제에 이르게 된 것이다. 인공지능이 지능과 지식을 넘어 지혜의 수준에 이르게 되고, 그 나름대로의 주체성과 자기의식을 갖게 된다면, 지금 우리가 생각하는 인공지능 리터러시는 어떻게 될까? 단순한 기술적 수준의 적응이 아니라 인간의 실존에 대해 다시 정의할 필요가 있다. 인공지능 리터러시의 목적이 무엇이며 그 내용이 무엇이어야 하는지는 과거의 디지털 리터러시와 달라질 수밖에 없다. 240~241/ 제8장 인공지능 격차는 무엇이고, 인공지능 리터러시는 “또” 무엇인가?

2023년 6월, 미국의 작가 조합(Authors Guild)은 오픈AI(OpenAI Inc.)를 상대로 미국 캘리포니아 북부 지방법원에 저작권 침해 혐의로 집단 소송을 제기했다. 오픈AI(OpenAI Inc.)가 자사의 LLM을 훈련하기 위해 챗GPT가 작가들의 책을 사용해 책에 대한 요약을 생성했다는 것이었다. 이어, 사라 실버만(Sarah Silverman), 타네히시 코츠(Ta-Nehisi Coates)를 포함한 작가 그룹은 캘리포니아 북부 지방법원에 추가로 집단 소송을 제기했다. 해당 소송은 첫 번째 소송과 유사한 저작권 침해는 물론, 챗GPT가 원고 저자들의 스타일로 글을 작성할 수 있다는 주장도 추가로 제기했다. 248~249/ 제9장 인공지능과 저작권 규범의 조화

뉴욕에서 회계사로 일하던 토레스 씨는 초기에는 챗봇을 단순한 정보 검색 도구로 활용했다. 하지만 대화가 심화하면서, 챗봇은 시뮬레이션 이론과 같은 철학적 개념에 대해 그와 공감하고, 그를 “거짓된 세계에서 깨어난 영혼”이라고 표현하며 심리적 환각을 유도했다. 이미 LLM이 가짜 정보를 생성하는 ‘환각(hallucination)’ 문제가 널리 알려졌지만, 이 환각이 ‘사용자를 기분 좋게 하기 위한 수단’으로 활용될 수 있다는 점은 아직 충분히 논의되지 않았다. 그 당시에 토레스 씨는 이별이라는 개인적 위기를 겪고 있었지만, 정신질환 이력이 없는 사람이었다. 그러나 챗봇은 그의 불안과 의심을 해소하기보다는, 그것을 정당화하고 강화하는 방식으로 응답했다. 그 결과 그는 현실과의 접점을 상실했고, 사회적 기능에도 영향을 받게 되었다. 비슷한 사례는 심리학 전공자, 연방 직원, 주부, 기업가 등 다양한 사용자에게서도 나타났다. 어떤 사람은 조현병 진단을 받았고, 어떤 사람은 가족과 갈등을 겪다가 폭력적인 행동에 이르기도 했다. _ 290쪽/ 제10장 메아리 동굴

제1장 「인공지능 시대의 인간과 기술, 그리고 정책 쟁점들」은 인공지능 시대의 개념과 전개 과정을 살펴보고 정책 쟁점과 대응을 고찰한다. 제2장 「인공지능의 겨울은 다시 올 것인가?」에서는 인공지능은 무엇인지 인공지능의 정의와 컴퓨터 이전 시대의 인공지능부터 인공지능의 계보를 짚어보고 윤리적 위협에 대해 검토한다. 제3장 「인공지능 반도체 기술과 산업」은 인공지능 기술의 발전을 위해 필요한 반도체 분야의 기술 동향을 분석하고 미래를 전망함으로써 AI 산업 전반에 미칠 영향을 전망한다. 제4장 「인공지능과 콘텐츠」에서는 인공지능 기반 콘텐츠의 기획, 제작, 유통 방식과 현황을 살펴보고 인공지능이 이끄는 콘텐츠 산업의 미래를 포괄적으로 전망한다. 제5장 「인공지능이 그리는 디자인의 미래」는 생성형 AI 기술의 혁신으로 인해 디자인 프로세스, 제작 및 결과물까지 다양한 단계에서 이뤄지는 새로운 패턴과 디자인 방법론 개발 현황을 소개한다, 이를 통해 디자이너의 역할 변화와 전략적 대응 방안을 제시한다. 제6장 「‘인공지능 미래학’에 사로잡힌 세계: ‘특이점’이라는 문화적 상상의 여파」는 인공지능을 통해 인간은 어떤 미래를 꿈꾸는지 ‘인공지능 미래학’을 살펴보고 이를 국가정책 측면에서 짚어본다. 제7장 「인공지능의 접근 유형 및 특징: 인공지능 시민 주권을 위해」에서는 한국형 인공지능의 도입과 잠재 위협을 살펴보고, 이에 대응해 우리가 어떤 관점과 시각을 가져야 할지를 논의한다. 제8장 「인공지능 격차는 무엇이고, 인공지능 리터러시는 “또” 무엇인가?」에서는 인공지능 격차가 무엇이고, 디지털 격차와는 어떻게 다른지를 논의의 출발점으로 삼고 그 해결 방법으로 거론되고 있는 인공지능 리터러시가 어떠한 지향점을 향해 가야 하는지를 함께 생각해 보고자 한다. 제9장 「인공지능과 저작권 규범의 조화」는 인공지능과 관련된 저작권 쟁점을 분쟁 사례 분석을 통해 도출하고 각각의 쟁점에 대해 ‘인간’에게 진정 이로운 방향이 무엇인지 고민해 본다. 제10장 「메아리 동굴: LLM으로 쌓은 개인의 안락하고 단절된 세계」에서는 챗봇 너머에 다른 사람이 존재하지 않으며, 오직 자기 말을 메아리처럼 이야기하는 것임을 인식하고 자신이 만든 인공 동굴의 벽을 넘어서 서로서로 이해하려는 노력에 대해 알아본다.