다크패턴의 비밀

책소개

2024년 04월 30일 출간 | ISBN : 1167741498 | 344쪽

상세이미지

저자소개

저자 : 해리 브리그널 (Harry Brignull) 독립 연구자, UX 전문가, 컨설턴트. 인지과학 박사학위를 받았고 서섹스 대학교와 노팅엄 대학교에서 학술 연구원으로 일했다. 스포티파이, 피어슨, HMRC(영국 국세청), 텔레그래프 등 다양한 조직에서 일해온 탁월한 사용자 경험 전문가다. 2010년 온라인에서 눈속임과 착각으로 사용자를 속여 구매를 유도하는 기만적인 설계를 '다크패턴'이라고 처음 정의해 이 문제를 공론화했다. 오늘날 관련 연구에서 널리 쓰이는 여러 용어 역시 그가 만든 것이다. 다크패턴이 사용자에게 미치는 부정적 영향을 인식한 그는 웹사이트 deceptive.design을 개설해 다크패턴의 비윤리적 관행을 폭로하고 대중을 교육하며 투명한 디지털 환경을 조성하기 위한 다양한 노력을 펼치고 있다. 니콜라스 대 눔(Noom Inc.), 아레나 대 인튜이트 등 다수의 다크패턴 관련 소송에 전문가 증인으로 참석하기도 했다. 역자 : 심태은 ???경희대학교에서 호텔경영을 공부하고 한국외국어대학교 통번역대학원 한영과를 졸업했다. 다년간 통번역가로 활동했으며, 현재 번역에이전시 엔터스코리아에서 전문 번역가로 활동 중이다. 《읽자마자 IT 전문가가 되는 네트워크 교과서》, 《UX 라이터의 글쓰기 수업》, 《공감의 디자인》, 《구글은 어떻게 디자인하는가》 등의 역서가 있다.

책속으로

항공권과 약관을 잠시 생각해보자. 여기에는 출국 라운지에 들어가기 전에 향수, 미용 제품, 주류 등을 보며 쇼핑 구역에서 시간을 보내야 한다는 말은 한마디도 없다. 그리고 출발 시간보다 최소 2시간 전에 도착하는 것이 좋다는 공항의 안내는 또 어떤가. 시간적인 효율성이 정말로 최우선 순위였다면 보안 검색대와 출국 라운지 사이에 강제 경로 매장을 필수 단계로 넣지 않았을 것이다.
이는 기업이 디자인을 활용하여 소비자를 강제하고 조종하는 방법을 보여주는 전형적인 사례이다. 또한, 논란의 여지는 다소 있겠지만, 약간 기만적이다. 공항이라는 기업이 강제 경로 매장의 수익 창출 목적을 제대로 알고 있으면서도 여행객에게 2시간 일찍 공항에 도착하라고 할 때 이를 밝히지 않고, 매장을 건너뛸 지름길도 제공하지 않기 때문이다. -20쪽

조금 더 뻔뻔하게 인간의 지각력을 이용하는 방법은 사용자의 지각 영역에서 무언가를 아예 없애버리는 것이다. 사람들이 어떤 내용을 이해하는 것을 원하지 않으면 그냥 페이지에서 보여주지 않고, 다른 것을 암시하는 링크나 버튼 뒤에 숨겨놓는다. 이는 쿠키 동의 대화창에서 흔하게 사용된다. 처음에 사용자가 보는 화면에서는 모든 형태의 추적을 거부할 수 있는 버튼이 있을 가능성이 보이지 않는다. 2020년에 나우웬스 등은 이런 방식의 영향을 측정하기 위한 연구를 진행했다. 40명의 참여자가 온라인 현장 실험에 참여했다. ‘모두 거부’ 버튼을 동의 팝업의 첫 페이지에서 삭제하자, 동의율이 23%p 증가했다 -58쪽

트럼프의 선거운동에서는 다양한 기만적 패턴이 적용되었는데, 그중에 속임수 표현도 있다. 2021년 3월에 나는 〈뉴욕타임스〉의 셰인 골드마허 기자의 연락을 받았다. 그는 트럼프 선거자금 후원 포털에서 심각한 기만적 패턴 사례를 발견했고, 이를 대중에 공개하기 전에 나와 논의하고 싶어 했다. 골드마허의 기사에 더 자세하게 설명되어 있으니, 여기에서는 요약만 하겠다. 대개 사용자는 이메일 캠페인을 통해 선거자금 후원 포털로 유입되었다. 시간이 지나면서 트럼프 선거운동 본부에서는 기만적 패턴의 강도를 높였다. -161쪽

2023년 3월에 FTC는 어려운 취소 기만적 패턴에 관한 새로운 규정을 발표했다. 리나 M. 칸 FTC 위원장은 “제시된 규정에 따르면 기업은 구독 서비스에 가입하는 것만큼 해지하는 것도 쉽게 만들어야 합니다”라고 말했다. 심지어 바이든 대통령도 “FTC가 기업에 시정을 요구한 것을 지지합니다. 서비스 가입보다 해지가 더 어려워서는 안 됩니다”라는 내용의 트윗을 게시했다. 놀랍게도 이런 일을 겪고서도 아마존 프라임 구독 해지는 여전히 어렵다. 아마존이 그렇게 많은 돈을 소송 비용에 투입하고 이만한 위험을 감수하고 있다는 점은 이 행위로 얼마나 많은 이득을 얻고 있는지를 시사한다. -194쪽

이 글을 쓰는 현재, 이런 도구는 상당히 기초적인 수준이지만 AI의 빠른 가속화를 보면 곧 널리 퍼질 것으로 보인다. AI 도구는 학습 데이터에 의존한다. 미드저니는 웹상의 수백만 개의 이미지로 AI를 훈련하고, 챗GPT는 수백만 편의 기사로 학습한다. 오늘날 웹사이트와 앱에는 기만적 패턴이 포함된 것이 많으므로, 새로운 UI 생성 AI 도구가 이를 바탕으로 학습한다면, 똑같은 종류의 기만적 패턴을 다양하게 재생산할 것이다. 이를 막기 위해 특별한 노력을 기울이지 않는다면 말이다. -291쪽

출판사 서평

탁월한 마케팅 전략인가, 소비자 기만인가 ‘다크패턴’을 처음 정의한 해리 브리그널이 직접 밝히는 온라인 세상의 사기꾼, ‘다크패턴’의 모든 것 나도 모르는 새 구독료가 빠져나가고 있다는 사실을 뒤늦게 알게 된 적 있는가? ‘한정’, ‘마감’ 알림에 조급해하며 결제 버튼을 누른 적은? 처음 제시된 가격보다 최종 구매 가격이 더 비싸다는 걸 알아챘다면? 지금껏 더 꼼꼼히 살펴보지 않은 자신을 탓했다면, 이제는 ‘다크패턴’의 세계를 제대로 알아야 할 때다. 다크패턴이란 사용자의 자율성, 의사결정, 선택을 방해하거나 손상하도록 설계된 사용자 인터페이스(User Interface)를 뜻한다. 사용자가 본인의 의사와 상관없이 제품을 구매하게 만드는 기업들의 기만적 설계는 오프라인 매장에도 오래전부터 있었다. 검색대를 통과해 비행기를 타기 전 여행객들이 반드시 거치도록 만들어진 공항 쇼핑몰이 대표적인 예다. 온라인 세계에서는 이런 조작이 더욱 손쉽고 광범위하게 이루어진다. 소비생활에서 온라인 쇼핑이 압도적 비중을 차지하고, 구독 경제, 비대면 금융거래 등 새로운 형태의 전자상거래가 끊임없이 생겨나면서 다크패턴도 만연하고 있다. 2022년 유럽 의회가 수행한 연구에 따르면 검토한 웹사이트와 앱의 97%에서 하나 이상의 다크패턴을 적용하고 있었으며, 2020년 덴마크·노르웨이·스웨덴·영국·미국의 뉴스 및 잡지 웹사이트 300곳의 쿠키 동의 알림을 분석한 결과 99%가 다크패턴을 사용하고 있음이 밝혀졌다. (211쪽) 이 책 《다크패턴의 비밀》의 저자 해리 브리그널은 2010년 ‘다크패턴’을 처음 정의해 공론화한 장본인이다. 이 책에서 그는 에어비앤비 같은 글로벌 숙박 예약 사이트부터 대선 후보의 후원금 모금까지, 온라인 비즈니스가 트릭을 설계하고 사용자를 현혹하는 방법을 낱낱이 공개한다. 특히 ‘인간은 합리적이지 않고 편향된 사고와 의사결정을 내린다’는 행동과학과 인지과학 연구 결과가 눈부신 기술 발전과 결합하면서 어떻게 악용되는지 밝히고 있다. 또한, EU와 미국 등 선진국의 다크패턴 관련 법률까지 풍부하게 살펴보고 있어 2025년 전자상거래법 개정으로 다크패턴 규제가 중요한 사회·경제적 이슈로 떠오른 우리에게도 가치 있는 자료를 제공한다. 다양한 사례와 연구를 기반으로 쓰인 이 책은 다크패턴에 대한 가장 신뢰할 수 있는 지침서다. 이 책의 원서는 내용의 진정성을 유지하고 책이 지향하는 목적에 충실하기 위해 해리 브리그널이 독립 출판물로 직접 출간했다. “이것은 넛지가 아니라 다크패턴입니다” 인지과학, 행동과학이 밝혀낸 인간의 취약성은 어떻게 다크패턴에 악용되는가 리처드 탈러와 캐스 선스타인이 제안한 개념인 ‘넛지’는 팔꿈치를 툭 치듯 부드럽게 타인의 행동을 유도하는 것을 뜻한다. 이후 직접적이지 않게 소비자의 구매를 이끌어낸다는 ‘넛지 마케팅’이 크게 유행했다. 사용자가 알아채지 못하게 행동을 바꾼다는 점에서 넛지와 다크패턴을 혼동하는 사람들이 많다. 그렇다면 둘 사이에는 어떤 차이가 있을까? 넛지는 인간의 행동을 올바른 쪽으로 유도하고자 하되 선택과 결정에 직접 개입하지 않지만, 다크패턴은 그 목적이 오직 기업의 이윤 창출에 있으며, 기업의 의도에 맞게 행동하도록 사용자의 생각과 행동을 강제하고 조종한다는 점이다. 다크패턴을 판단하는 핵심은 자율성, 즉 사용자가 외부의 영향과 관계없이 자기 선택의 본질을 제대로 이해하고 자기 목표대로 행동할 수 있는지에 있다. 넛지와 다크패턴 둘 다 인간이 ‘비합리적으로 행동하고 때로는 비이성적인 선택과 의사결정을 내린다’는 인지과학과 행동경제학의 연구 결과를 이용하지만, 그 목적에는 이처럼 커다란 차이가 있는 것이다. 이 책에서는 ‘착취적 디자인 전략’이라 부르는 다크패턴 설계가 인간의 여러 취약성을 어떻게 이용해서 온라인 설계에 반영하는지 다양한 사례를 통해 보여준다. 색상대비가 상대적으로 낮은 부분에는 주의를 기울이지 않아 메시지를 놓친다거나 스크린의 글을 꼼꼼히 보지 않고 훑어보기로 읽는다는 인간의 지각적 특징부터, 디폴트 효과·앵커링·프레이밍·사회적 증거·희소성 효과·매몰 비용 오류 등 인지 편향을 일으키는 심리적 특성까지 다루고 있어 독자들은 자신도 몰랐던 자신의 취약함이 무엇인지, 그로 인해 지금까지 어떻게 다크패턴에 당해왔는지 알게 해준다. 《블랙 스완》 작가가 테슬라에 항의한 까닭은? 트럼프의 선거 후원금은 왜 그토록 환불 요구가 높았나 때와 장소를 가리지 않고 만들어지는 다크패턴의 사례들 “이 구매는 정말 의도치 않게 이루어졌습니다. 4333달러나 되는 구매 금액에 확인이나 비밀번호 입력 절차 등이 없는 앱은 본 적이 없습니다. (…) 아마존에서 6.99달러짜리 킨들 책을 사는 것도 이것보단 어렵고, 실수로 구매했을 때 구매 철회도 가능합니다. (…) 나는 귀사의 그 멍청한 소프트웨어를 사용한 적도 없습니다.” 세계적 베스트셀러 《블랙 스완》의 저자 나심 니콜라스 탈레브는 2020년 테슬라에 보낸 메일 내용을 자신의 트위터에 게시했다. 테슬라는 모바일 앱으로 차량 업그레이드를 구매할 수 있는데, 앱이 잘못 눌려 자신의 의지와 상관없이 업그레이드가 결제된 것이다. 나심 니콜라스 탈레브는 테슬라에 환불을 요청했지만, 테슬라는 ‘결제 화면에 업그레이드 환불 불가 문구가 있다’며 거부했다. 문제는 이 환불 불가 문구가 사용자가 매우 알아보기 어렵게 되어 있다는 점이었다. (158쪽 그림) 이는 다크패턴의 여러 유형 중 ‘시각적 방해’에 해당한다. 사용자가 페이지에서 보일 거라고 합리적으로 기대하는 내용을 숨기는 행위이다. 다크패턴이 기업의 이윤을 위해서만 사용되는 것은 아니다. 놀랍게도 대선 후보의 선거자금 모금에서도 다크패턴이 사용되었다. 지난 미 대선 당시, 트럼프 선거자금 후원 포털에서는 일시 후원이 아닌 ‘매월 후원’을 사전 선택해두어 주의를 기울이지 않으면 자신도 모르게 매월 후원금이 나가는 형태를 만들었다. 효과가 좋다는 점을 알게 되자 선거운동 본부는 트럼프의 생일에 후원금을 더 내는 사전 선택란을 추가로 만들었다. 기만적 패턴을 가속화한 선거운동 본부는 애국을 강조한 메시지를 강조하고 후원금 관련 내용을 눈에 덜 띄게 만드는 방식으로 사용자가 주의를 기울이는 것을 방해했다(시각적 방해와 속임수 표현). 이처럼 트럼프 선거운동 본부는 다크패턴을 활용해서 수많은 후원금을 거둬들였지만, 후원금이 빠져나간다는 사실을 몰랐던 지지자들이 뒤늦게 환불 요청을 하는 바람에 트럼프 선거운동 본부의 환불 금액은 1억 2200만 달러에 이르렀다. 2100만 달러인 바이든 선거운동 본부에 비해 6배 가까이 높은 금액이었다. 이 사례에서 볼 수 있듯, 다크패턴은 온라인 쇼핑몰에서 물건을 구매하는 일뿐 아니라 우리가 접속하는 곳이라면 어디든지 숨어 있다. 하루에도 몇 시간씩 스마트폰을 손에서 놓지 못하는 현대인들이 다크패턴에 취약할 수밖에 없는 이유다. AI가 다크패턴을 학습한다? 기술이 발전할수록 더욱 교묘해질 다크패턴 그렇다면 다크패턴은 사용자에게 어떤 영향을 미칠까? 금전적 손실을 끼치거나, 시간을 낭비하게 하거나, 원치 않는 계약을 체결하게 하거나, 개인정보를 허락 없이 이용해 프라이버시를 침해할 수 있다. 무엇보다 큰 문제는 사용자가 최선의 이익을 위한 결정을 내리는 것을 방해하고 생각할 자유를 빼앗아간다는 점이다. 특히 AI 기술의 급격한 발전은 잘못된 정보, 허위 정보 생산이 훨씬 쉬운 환경을 만들었다. 이미 우리는 딥페이크로 만들어진 거짓 영상을 충격 속에서 보고 있다. AI는 디자이너가 다크패턴을 만드는 일에 사용될 수도 있다. 디자이너가 직접 만들지 않더라도, 학습 과정에서 이미 만들어진 다크패턴을 학습하게 되면 디자이너의 의도와 상관없이 훨씬 발달된 형태의 다크패턴을 만들어낼 수도 있다. 인기 있는 앱이나 웹사이트를 이용하면 그곳에서 클릭하거나 스크롤한 모든 세부 정보가 기록되고 분석된다. 매일같이 사용자의 행동이 추적되며, 이를 통해 무엇이 사용자를 클릭하게 만들거나 상품을 구매하거나 약관에 동의하게 만드는지 알게 되는 것이다. 이러한 연구는 사용자에게 좋은 영향을 끼칠 수도, 해를 끼칠 수도 있다. 이는 기업의 의도에 따라 달라진다. 기술은 무엇이 좋고 나쁜지 판단하지 않는다. 그저 수치적으로 성과가 좋은 것을 알려줄 뿐이고, 이를 선택하는 것은 설계자의 몫이다. AI를 활용해 개별화, 맞춤형 설계가 더욱 용이해질수록 설계자조차 의도하지 않았던 다크패턴이 우리를 더욱 교묘하게 공략할 것이다. 우리가 다크패턴에 더 주목하고 알아야 하는 이유가 바로 여기에 있다.

상품 안내 및 환불, 교환, 배송문의
- 가게 전화번호 :	1544-1900
- 전화문의 시간 :	오전 9시부터 오후 6시까지 (매주 월요일, 화요일, 수요일, 목요일, 금요일, 공휴일 제외)
- 가게 이메일 :	ink@kyobobook.co.kr
- 이용 택배회사 :	CJ대한통운
판매가게정보
- 사업자명 :	(주)교보문고
- 사업자등록번호 :	102-81-11670
- 통신판매업신고 :	01-0653
- 현금영수증 : 발급가능
전화주문 및 결제문의
- 꽃피는 아침마을 :	1644-8422
가게와 직거래를 하시면 꽃송이 적립 및 각종 혜택에서 제외되고, 만일의 문제가 발생하는 경우에도 꽃마의 도움을 받으실 수 없습니다. 가게의 부당한 요구, 불공정 행위 등에 대해서도 꽃마로 직접 전화주세요.

교환 및 환불 가능	상품에 문제가 있을 경우	1) 상품이 표시/광고된 내용과 다르거나 불량(부패, 변질, 파손, 표기오류, 이물혼입, 중량미달)이 발생한 경우 - 신선식품, 냉장식품, 냉동식품 : 수령일 다음날까지 신청 - 기타 상품 : 수령일로부터 30일 이내, 그 사실을 안 날 또는 알 수 있었던 날로부터 30일 이내 신청 2) 교환 및 환불신청 시 판매자는 상품의 상태를 확인할 수 있는 사진을 요청할 수 있으며 상품의 문제 정도에 따라 재배송, 일부환불, 전체환불이 진행됩니다. 반품에 따른 비용은 판매자 부담이며 환불은 반품도착일로부터 영업일 기준 3일 이내에 완료됩니다.
교환 및 환불 가능	단순변심 및 주문착오의 경우	1) 신선식품, 냉장식품, 냉동식품 재판매가 어려운 상품의 특성상, 교환 및 환불이 어렵습니다. 2) 화장품 피부 트러블 발생 시 전문의 진단서 및 소견서를 제출하시면 환불 가능합니다. 이 경우 제반비용은 소비자 부담이며, 배송비는 판매자가 부담합니다. 해당 화장품과 피부 트러블과의 상당한 인과관계가 인정되는 경우 또는 질환치료 목적의 경우에는 진단서 발급비용을 판매자가 부담합니다. 3) 기타 상품 수령일로부터 7일 이내 신청, 왕복배송비는 소비자 부담 4) 모니터 해상도의 차이로 색상이나 이미지가 다른 경우 단순변심에 의한 교환 및 환불이 제한될 수 있습니다.
교환 및 환불 불가	1) 신청기한이 지난 경우 2) 소비자의 과실로 인해 상품 및 구성품의 전체 또는 일부가 없어지거나 훼손, 오염되었을 경우 3) 개봉하여 이미 섭취하였거나 사용(착용 및 설치 포함)해 상품 및 구성품의 가치가 손상된 경우 4) 시간이 경과하여 상품의 가치가 현저히 감소한 경우 5) 상세정보 또는 사용설명서에 안내된 주의사항 및 보관방법을 지키지 않은 경우 6) 사전예약 또는 주문제작으로 통해 소비자의 주문에 따라 개별적으로 생산되는 상품이 이미 제작진행된 경우 7) 복제가 가능한 상품 등의 포장을 훼손한 경우 8) 맛, 향, 색 등 단순 기호차이에 의한 경우

장바구니에 담았습니다. 장바구니를 확인 하시겠습니까?

책소개

상세이미지

저자소개

책속으로

출판사 서평