최근 이직을 결심하며 새로운 조직에 합류하게 되면서 권장도서로 훅(Hooked)를 받아 완독을 하게되었다.
이 책을 읽으면서 이전에 보았던 넷플릭스의 다큐멘터리 The Social Dilemma 와 The Great Hack 이 연상되는 부분이 많아 함께 언급하고자 한다.
훅(Hook)이란 무엇을 말하는 것일까?
굳이 비유를 들자면, 가요계에서 흔히 말하는 후크송(Hooked song) 의 개념과 비슷하다고 보면 된다. 비즈니스 개발 영역에서는 사용자 패턴을 무의식적으로 습관화시켜 해당 제품의 의존성을 주입한다는 개념이다.
총 4단계로 구성되어 있으며 다음과 같다.
- 계기 : 사용자에게 행동 개시 신호를 보내는 단계. 크게 외부 계기와 내부 계기 두 단계로 나뉜다.
- 행동 : 보상을 기대하면서 수행하는 아주 간단한 행동을 의미한다.
- 가변적 보상 : 종족(사회적 인정), 수렵(물질적 보상) 및 자아(성장)라는 세가지 형태를 취하며 서로 상호관계가 존재한다.
- 투자 : 훅의 마지막 단계이며, 이는 가변적 보상 이후에 다시 보상을 받을 수 있을거라는 낙관주의에 기반한다.
책에서는 위의 4가지 요건들을 케이스 예시들을 나열하며 전형적인 미국식 서적의 패턴으로 흘러간다. 이 책의 이론의 기반으로 미국 인지 심리학자인 Brian Jeffrey Fogg의 B = MAT(Motivation : 동기부여, Ability : 실행 능력, Trigger : 계기) 모델을 따르고 있으며, 그의 주장은 습관은 충분한 동기부여가 있는 상태에서 수행 가능한 실행 능력(시간등의 물리적인 요건 포함)이 있는 상태에서 어떠한 계기로 형성된다는 이론이다. 책에 따르면, 이 이론은 현재의 실리콘밸리가 탄셍하게 한 근본적인 전략이라고 이야기 하며 구글, 트위터, 페이스북, 인스타그램, 핀터레스트 뿐만아니라 개발자가 매일 접하고 있는 Quora, Stackoverflow 의 사례까지 들고 있다. 매 챕터를 읽을때마다 소름이 돋았던 것은 과연 이러한 인지 심리학을 통한 인간 행동 패턴 해킹이 얼마나 효과적이고 그것이 얼마나 위험한지 보여준 두 다큐멘터리가 떠올랐기 때문이다.
우리가 인지하지도 못한 사이에 조작당하고 있다.
이 책의 2장 첫 사례로 인(Yin) 이라는 가상의 인물이 등장하는데, 스탠퍼드 대학교에 재학중인 수재임에도 인스타그램의 훅에 이끌려 하루에도 수시간씩 휴대폰으로 인스타그램을 보느라 정신이 없다고 서술한다.
어디서 많이 들어본 이야기 같지 않은가? 이 글을 작성하는 필자 또한 출퇴근 시간, 자기전 까지 유튜브 알고리즘에 이끌려 동영상을 보느라 여념이 없다.
정말 무시무시할 정도로 중독성이 강하다. 이처럼 우리는 시간을 쓸데없는데 하염없이 쓰느라 바쁘다. 그런데 과연 이러한 컨텐츠를 제공하는 사람들은 어떠한 가변적 보상을 얻기에 우리들을 그들의 컨텐츠를 소비하게끔 유도할까?
여기서 The Great Hack 사례를 눈여겨 볼수 있다. 여기서 케임브리지 애널리티카(Cambridge Analytica)라는 회사가 등장하는데,
그들은 그들 고객들이 설정한 목표를 이루기 위해 수단과 방법을 가리지 않고 대중들을 현혹하고 편향적인 사고를 가지게끔 유도한다.
오바마의 당선부터 시작하여 인도 및 중남미 국가에서 벌여졌던 반정부 시위, 그리고 브렉시트(Brexit) 와 트럼프의 당선까지…
정말 무서운점은 그들이 우리가 생각하는 객관적인 사고를 서서히 침식하여 객관적인 이라는 의미를 전혀 다른 방식으로 해석하게끔 유도한다는 것이다.
이 스캔들은 정말 전세계에 엄청난 파장을 불러일으키며 현재 실리콘밸리 대기업들이 장악한 IT산업의 경각심을 일깨워준다.
과연 누가 배후에서 사람들을 세뇌시키는걸까?
케임브리지 애널리티카(Cambridge Analytica) 사태만 놓고본다면, 우리는 특정 기술 집단이 우리들을 흔들고 분열을 조장한다고 생각한다. 하지만 진정한 배후는 바로 우리들로부터 출발한다. The Social Dilemma 에서 등장하는 소셜 미디어들의 폐헤들을 살펴본다면, 우리는 동조 압력 (Peer pressure) 에 사로잡혀 그 컨텐츠들을 계속 소모하고 있다고 묘사된다. 그리고 그걸 더욱 더 가속화 시키는 것이 바로 머신러닝(Machine Learning) 이다. 머신러닝의 기본적인 개념을 알고있는 사람들이라면, 사람들이 자신의 취향대로 행동함에 따라 특정 방향으로 가중치가 높아진다는 것을 알것이다. 이를 통해 우리는 점점 확증편향(Confirmation bias) 적으로 본인이 이전에 보았던 컨텐츠와 유사한 정보들에 둘러 쌓일 것이다. 이것이 사회를 분열시키고 갈등을 조장한다고 대부분의 사람들이 이야기 하고 있다. 결국 우리가 위대하다고 생각했던 AI가 결국 대중의 선택에 따라 움직이는 깡통이나 다름 없다는 것이다.
결국 우리 자신이 우리들을 악순환(vicious circle)에 빠뜨리고 있다.
우리는 AI 탓을 하고 있지만, 컨텐츠를 만들고 소비하고 그 플랫폼을 만든 주체이다. 결국 우리들이 우리 자신을 악의 순환에 빠지게 만든 장본인이며 해결해야할 주체이다. 마크 주커버그가 말했듯이 단순히 페이스북의 AI 알고리즘을 개선한다고 해결될 일일까? 잘 생각해본다면, 훅의 이론에서 나왔듯이 기술로 해결하는 것이 아니라, 넛지(nudge) 들을 심어서 대중이 직접 AI를 통제 할 수 있는 신호들을 심어야지만 해결 할 수 있을 것이다. The Social Dilemma 에서 나왔던 많은 양심적인 개발자들의 진술에 따른다면 말이다.
*Reference:
훅(Hooked)
The Social Dilemma
The Great Hack