C. Thi Nguyen: The Gamification of Public Discourse (Royal Institute of Philosophy)

The Royal Institute of Philosophy

현대 온라인 소통 시스템은 우리의 도덕적 신념과 가치관을 단순화하고 즐거움을 통해 특정 관점에 갇히게 하여 '좁은 마음'을 갖도록 설계되었습니다.

'가치 포착'은 풍부하고 미묘한 가치가 단순화된 형태로 제도화될 때 발생하며, 이는 학업 성적, 리트윗 수 등 정량화된 지표에만 집중하게 만들어 본래의 가치를 왜곡합니다.

'도덕적 분노 포르노'는 실제 도덕적 참여의 비용과 결과 없이 즉각적인 만족을 위해 도덕적 분노의 표현을 사용하는 것으로, 이는 우리의 도덕적 신념을 쾌락 극대화에 맞춰 도구화하고 단순화하게 만듭니다.

에코 챔버와 온라인 분노: 가치 단순화의 위험성

강연자는 에코 챔버와 온라인 분노 현상에 대해 깊이 고찰하며, 우리가 **쾌락을 위해 도덕과 가치관을 단순화하고 있을 가능성**에 주목합니다. 복잡하고 미묘한 가치관은 세상에서 살아가기 힘들게 느껴질 수 있는 반면, 단순한 가치관은 더 안전하고 안정적이며 공동체적인 느낌을 주기 때문입니다. 강연자는 사람들이 의식적으로 가치 체계를 단순화하도록 장려하는 시스템이 설계되고 있다는 점에 큰 우려를 표합니다.

궁극적으로 강연자가 가장 걱정하는 것은 **사람들이 좁은 마음을 갖도록 설계된 시스템이 만들어지고 있다는 것**입니다. 이 시스템은 모든 것을 특정 방향으로 이끌며, 개인의 사고방식을 제한하는 결과를 초래할 수 있습니다.

강연자는 에코 챔버에 대한 논의를 시작하며, 자신의 철학적 글이 입소문을 타게 된 계기를 언급합니다. 그는 캐슬린 홀 제이미슨과 제시카 팔로타의 에코 챔버 관련 서적을 바탕으로 필터 버블과 에코 챔버라는 두 개념이 종종 동의어로 사용되지만, **실제로는 완전히 다른 개념**임을 강조합니다.

**필터 버블은 상대방의 말을 듣지 못하는 현상**으로, 소셜 미디어 친구들의 정치적 성향이 유사하여 다른 의견에 노출되지 않는 경우를 말합니다. 반면 **에코 챔버는 내부자들에게 외부인을 불신하도록 가르치는 곳**으로, 폭스 뉴스나 러쉬 림보의 사례에서 볼 수 있듯이, 반대편의 주장에 접근하지만 그들을 부패하고 믿을 수 없는 존재로 규정하는 경향이 있습니다.

에코 챔버는 핵심 신념을 공유하지 않는 모든 사람을 외부자로 간주하며, **컬트와 유사한 구조**를 가지고 있습니다. 이는 소통의 단절이 아닌, 누구를 신뢰할 것인가의 단절을 의미하며, 거의 항상 음모론과 관련이 있습니다.

철학자 앙드레 베그비의 '증거 선취' 개념은 에코 챔버의 작동 방식을 설명합니다. 즉, 러쉬 림보와 같은 인물이 외부 언론이 자신을 잡으려 한다고 예측하면, 추종자들은 외부 언론의 부정적인 보도를 보면서 그 예측이 확인되어 **오히려 러쉬 림보를 더 신뢰하게 되는 현상**입니다. 이는 들어오는 증거를 차단할 뿐만 아니라, 그 과정에서 조작자에 대한 신뢰를 더욱 강화하는 지적 유도 방식입니다.

온라인 환경에서의 에코 챔버 확산 이유

강연자는 페이스북과 트위터 같은 새로운 미디어 커뮤니케이션 기술과 에코 챔버 사이의 관계, 그리고 **극심한 정치적 양극화가 오늘날의 소통 환경에서 번성하는 이유**에 대한 의문을 제기합니다. 에코 챔버는 컬트 메커니즘과 같으며 인류와 함께 존재해왔음에도 불구하고, 현재 온라인에서 폭발적으로 증가하는 현상에 대한 연결고리를 찾고자 합니다.

강연자는 미국 극우 웹사이트와 같은 곳에서 음모론과 도덕적 분노가 만연한 것을 발견했으며, 좌파에도 유사한 에코 챔버가 존재하여 **양쪽 모두에서 비슷한 방식으로 작동**한다고 지적합니다. 이러한 현상을 이해하기 위해 강연자는 '생물 창조'라는 방법을 제안하며, 대규모 신념 조작자의 역할을 상상해 보고 토론에 아이디어를 주입하는 방법을 모색합니다.

신념 조작 기술: 거짓된 명확성과 처리 유창성

강연자는 신념 조작 기술을 세 가지 흐름으로 나누는데, 그중 첫 번째는 **'거짓된 명확성'**입니다. 철학의 역사를 보면 모든 것을 파악하려는 끝없는 과정이 있지만, 유한한 존재인 우리는 인지 자원을 효율적으로 관리해야 합니다. 따라서 조사를 완전히 탐구하지 않고도 언제 조사를 끝내야 할지 알 수 있는 빠르고 간편한 방법이 필요하며, 우리는 혼란감을 조사 지속의 경험적 방법으로, 명확성을 조사 종료의 경험적 방법으로 사용한다는 제안입니다.

만약 이것이 사실이라면, 악한 인식 조작자는 이 취약점을 이용할 수 있습니다. **어떤 사고 체계에 '명확하다'는 느낌을 주면 사람들은 그것에 대해 생각하고 조사하는 것을 멈출 것이기 때문**입니다. 이는 일종의 주의력 조작으로, 뇌를 위한 '투명 망토'와 같습니다. 존 르 카레의 스파이 비유처럼, 최고의 스파이는 지루하고 평범하여 눈길조차 주지 않아 '생각할 가치가 없다'는 인상을 주는 것과 비슷합니다.

인지 과학에는 '처리 유창성'이라는 개념이 있습니다. **생각하기 쉽거나 어려운 정도**를 나타내는데, 우리는 처리 유창성을 수용의 지름길로 사용합니다. 심리학자들은 과제가 이해하기 쉬울수록 수용할 가능성이 높고, 어려울수록 낮다는 것을 발견했습니다. 이는 경험에 기반한 좋은 경험 법칙이지만, 완전히 조작될 수 있습니다. 예를 들어, 반복되거나 읽기 쉬운 글꼴로 작성된 문장은 처리하기 쉽기 때문에 더 쉽게 받아들여지고 신뢰성이 높아집니다.

이러한 조작은 슬로건, 모토, 심지어 넷 밈(net meme) 등 **친숙한 형식으로 제시될 때 효과적**이며, 이를 통해 사악한 조작자들이 사람들의 믿음을 통제할 수 있습니다.

이해의 해킹과 양적 평가의 문제점

악한 조작자가 되고 싶다면, 사람들의 **'이해력'을 해킹**하여 실제로 이해하지 못하더라도 무언가를 이해하는 것처럼 느끼게 만들어야 합니다. 과학 철학에서는 이해를 단순히 개별 사실을 아는 것을 넘어, 사실 간의 관계를 파악하고, 일관된 네트워크를 형성하며, 새로운 정보를 수용하고, 그것을 타인에게 전달할 수 있는 능력으로 정의합니다.

신념 조작자들은 진정한 이해를 얻는 데 필요한 진실에 대한 주의를 기울일 필요 없이, **상황이 제자리에 맞아떨어지는 느낌, 연결을 보는 느낌, 설명을 생성하는 능력, 전달 가능성의 감각을 극대화하는 시스템을 설계**할 수 있습니다. 이는 마치 어머니의 말씀처럼, 건강을 생각하면 맛을 극대화할 수 없지만, 건강에 관심이 없다면 맛을 극대화할 수 있는 것과 같습니다. 진실에 관심이 없다면 뇌가 가장 맛있게 느낄 수 있도록 시스템을 만들 수 있습니다.

러쉬 림보 스타일의 반향실과 음모론은 이러한 이해의 감각을 극대화합니다. 음모론은 세상의 모든 복잡성을 '하나의 거대한 세계적 갈등'이라는 관점에서 설명하며, 모든 것이 연결되어 있다는 느낌을 주어 **설명을 생성하기 매우 쉽게 만듭니다.** 이는 폐쇄적인 커뮤니티에서 이러한 명확성을 만들어내고 이론에 대해 비판적으로 생각하는 것을 멈추게 합니다.

강연자는 관료적인 트래픽 지표, 지표, 양적 평가 또한 **동일한 잘못된 명확성을 제공한다**고 주장합니다. Theodore Porter의 '신뢰할 수 있는 숫자'라는 책은 질적인 방법과 양적인 방법의 차이를 설명합니다. 질적인 방법은 풍부하고 미묘하며 민감한 반면, 양적인 방법은 정보, 뉘앙스, 맥락의 풍부함을 제거합니다.

영국의 고대 토지 측정 단위인 '하이드'는 지역 환경과 변동에 민감하게 반응하는 질적 측정의 예시입니다. 하지만 중앙 관료들은 이를 관리할 수 없었기 때문에, **기능적 민감성을 잃는 대신 집계하기 쉬운 '에이커' 단위로 전환**했습니다. 이는 풍부한 맥락적 지식을 잃지만, 누구나 쉽게 사용하고 지도를 만들 수 있는 단순성을 제공합니다.

Sänger와 Engelmayer의 '수량화의 유혹'은 인간 개발 지수와 같은 순위가 **창조 과정의 복잡성과 주관성을 숨김으로써 권위의 허울을 드러낸다**고 지적합니다. 이러한 순위는 일단 정해지면 사람들의 머릿속에 박혀 모든 사람이 이를 사용하게 되며, 특히 자신의 국가가 순위에서 차지하는 위치에 관심을 갖게 됩니다.

교육 시스템에서도 GPA(학점 평균)는 이러한 양적 평가의 대표적인 예시입니다. 질적 평가는 학생의 개선점, 자랑스러워할 점, 미래 목표를 고려하는 풍부하고 맥락에 민감한 정보를 제공하지만, **관리자가 집계하거나 빨리 요약할 수 없다는 한계**가 있습니다. 반면 GPA는 학생의 평생 성적을 단일 숫자로 집계하여 입학 사정관이 쉽게 요약하고 순위를 매길 수 있는 **'쉬운 인지 능력, 힘과 이해의 감각'**을 제공합니다.

US 뉴스 앤 월드 리포트의 로스쿨 순위는 법학 교육에 파괴적인 영향을 미쳤습니다. 순위가 등장하기 전에는 각 로스쿨이 다양한 사명과 목표를 가질 수 있었지만, 순위가 도입된 후에는 **학생들의 입학 GPA, LSAT 점수, 졸업 시 취업률과 같은 순위 지표에 맞춰 가치를 재조정해야만 했습니다.** 이는 학생들이 로스쿨 선택 시 순위를 통해 거짓된 명확성을 얻게 되어 자신의 진정한 가치를 고려하지 않게 만들었습니다.

결론적으로 양적 시스템은 정보와 뉘앙스를 버리고 **의미가 통하는 몇 가지 특징에만 집중함으로써 명확한 느낌을 만들어냅니다.** 뉘앙스를 많이 잘라내면 데이터를 함께 쌓고 집계하기 쉬워지고, 많은 정보를 버릴 때 비로소 힘이 느껴집니다. 명확성은 사고 해킹에 유용한 취약점이며, 설명 단순화와 복잡한 데이터의 수치적 표현 단순화라는 두 가지 방법이 있습니다. 숫자가 나쁘다는 것이 아니라, 교육 평등과 같이 측정하기 어려운 것들을 지나치게 단순화된 측정에 의존하는 것이 문제입니다.

도덕적 분노 포르노: 쾌락을 위한 가치 도구화

강연자는 Becca Williams와 공동 집필한 논문을 바탕으로 **'포르노'의 새로운 의미**를 제시합니다. 음식 포르노, 부동산 포르노와 같이, 'X 포르노'는 실제 대상과 교류할 때 따르는 일반적인 비용과 결과에서 벗어나 **즉각적인 만족을 위해 X에 대한 표현을 사용하는 것**을 의미합니다. 예를 들어, 음식 포르노는 실제로 먹는 비용 없이 음식 표현에서 만족을 얻는 것입니다.

이 개념을 확장하여 **'도덕적 분노 포르노'**가 등장합니다. 이는 **실제 도덕적 참여의 비용과 결과에서 벗어나 즉각적인 만족을 위해 도덕적 분노에 대한 표현을 사용하는 것**입니다. 실제 도덕적 참여는 올바른 것을 얻으려 노력하고, 미묘한 차이를 이해하며, 진실에 주의를 기울이고 행동하는 것을 포함합니다. 강연자는 온라인 생활의 대부분이 도덕적 분노 포르노라고 생각합니다.

강연자는 도덕적 분노 자체가 나쁘다고 말하는 것이 아니라, **도덕적 분노 포르노가 나쁘다**고 강조합니다. 진정한 도덕적 분노는 중요하지만, 포르노 버전은 진정한 것의 기능을 훼손합니다. 도덕적 분노 포르노는 좋은 행동을 해야 하는 요구를 피하면서 즉각적인 만족을 위해 도덕적 분노를 사용하는 것입니다.

도덕적 신념을 쾌락을 위해 사용하는 것, 즉 **도덕적 신념 체계와 도덕적 삶을 도구적으로 바꾸는 것**은 심각한 위험을 초래합니다. 이는 도덕적으로 옳거나 좋은 것에 맞춰 신념을 가지려고 노력하는 대신, 도덕적 분노의 쾌락을 극대화하기 위해 신념을 재배열하는 것을 의미합니다. 쾌락을 극대화하려면 상황을 단순화하고, 상대방에 대한 명백한 묘사나 자신의 편에 있는 많은 사람들이 부당하게 대우받는다는 식의 입력을 주변에 두어 즐거움을 증가시킬 것입니다. 이는 가치와 도덕적 신념을 도구화하는 과정입니다.

진정으로 옳은 도덕적 신념을 만들고 싶다면 뉘앙스에 민감해야 하고 자신이 틀렸을 가능성에 열려 있어야 합니다. 그러나 도덕적 분노 포르노의 쾌락을 극대화하는 데만 관심이 있다면, **쉽게 촉발되고 쾌락적인 분노를 유발하며 신념 체계를 강화하는 단순한 묘사에 끊임없이 노출되는 단순한 신념 체계**를 원하게 될 것입니다. 이는 온라인에서 사람들이 이야기하는 방식과 유사하게 느껴질 수 있습니다.

강연자는 자신의 책 'Games Agency as Art'를 소개하며, 게임이 왜 아름다운 새로운 예술 형태인지 이해한다면 **게이미피케이션이 끔찍하다고 생각할 것**이라고 말합니다. 게임의 기본적인 아이디어는 **일시적인 목표가 있는 일시적인 환경**에 들어가는 것입니다. 게임 디자이너는 새로운 목표와 능력을 만들고, 플레이어는 그 안에서 목표를 달성하기 위해 행동하게 됩니다.

인생이 종종 불분명한 가치, 적용의 어려움, 수많은 가치들의 충돌로 인해 고통스러운 반면, **게임은 단순화되고 수량화된 목표를 제시하여 무엇이 중요한지에 대해 명확하게 알 수 있도록 해줍니다.** 게임은 우리가 얼마나 잘하고 있는지 정확히 알려주며 세상에 쉽게 적용할 수 있습니다. 이것이 바로 게임이 제공하는 '오아시스'와 같은 경험입니다.

강연자가 걱정하는 것은 **게임화가 실제 삶의 목표를 단순화하고 가치를 바꿀 위험이 있다는 것**입니다. 교육이나 트위터처럼 세상의 어떤 것을 게임화할 때, 사람들이 공론에 참여하는 것에 대해 점수를 받게 되면, 올바른 것을 얻는 것에 신경 쓰는 대신 **가장 많은 점수를 얻을 수 있는 일만 신경 쓰게 될 수 있습니다.** 트위터에서 가장 많은 점수를 얻을 수 있는 것은 바로 '도덕적 분노'이며, 도덕적 분노가 담긴 콘텐츠는 다른 콘텐츠보다 4배나 더 많은 관심과 확산을 얻습니다.

이는 **'가치 포착(Value Capture)'**이라는 현상으로, 풍부하고 미묘한 가치가 단순화되거나 정량화된 형태의 가치를 제공하는 시스템 안에 놓일 때 모든 것이 엉망이 되는 상황을 말합니다. 예를 들어, 배우는 것에 흥미를 느껴 학교에 들어갔지만 GPA나 로스쿨 순위에 신경 쓰게 되거나, 건강을 위해 운동을 시작했지만 핏빗 걸음 수 최대화에 집착하게 되는 것과 같습니다. 진실, 정의, 대화를 위해 트윗을 시작했지만 결국 바이럴을 만드는 일만 하게 되는 것 역시 가치 포착의 사례입니다.

게임 점수 시스템은 특정 차원에 대한 명확하고 정량화된 척도를 제공하여 추구 활동을 더 명확하고, 산뜻하고, 게임처럼 더 즐겁게 만들지만, **그렇게 하려면 가치를 단순화해야 합니다.** 게이미피케이션은 또한 우리의 가치를 도구화하고, 단순화된 점수화된 목표에 관심을 갖기 시작하면 게임처럼 느껴지고 더 즐거워질 것입니다. 게임에서는 '가치 가리개'를 씌워 점수만 신경 쓰고 다른 것은 신경 쓰지 않도록 훈련합니다. 신념 조작자라면 사람들이 자신의 편에 도움이 되는 것만 신경 쓰고 다른 것에는 관심을 두지 않도록 '가치 맹인'이 되기를 바랄 것이며, 이를 위해 원하는 가치를 수량화된 점수 시스템에 연결할 것입니다.

결론: 좁은 마음을 만드는 시스템

신념 조작자나 진실 조작자가 되어 신념 체계를 구축하고 사람들에게 퍼뜨리고 싶다면, **가능한 한 많은 현상에 대해 쉬운 설명을 제공하는 '거짓된 명확성'을 사용**해야 합니다. 이는 외부의 모든 사람을 비난하는 단순화된 도덕 시스템, 즉 '반향실'입니다. 사람들을 좁은 목표에 집중시키고 그렇게 하는 데서 즐거움을 얻도록 '게임화'해야 합니다. 게임의 즐거움과 연결된 숫자의 명확성을 제공하고, 이 모든 것을 반향실에 넣는 것입니다.

이러한 시스템들은 **도덕적 시야의 협소함을 강화하고 조장**합니다. 뉘앙스에 열려 있고 세상을 복잡하게 보는 사람들은 시스템의 훈련과 잘 설계된 설명으로 인해 가치를 수정하게 됩니다. 이는 일종의 신념 체계 함정입니다. 도덕적 분노 포르노는 단순한 시스템을 채택하는 것에 대한 즐거움을 제공하고, 숫자는 뉘앙스를 숨기며 측정된 것을 가장 두드러지게 만듭니다.

게이미피케이션은 사람들에게 수량화되고 단순화된 목표를 채택하는 것에 대한 즐거움을 제공하며, 반향실은 외부의 복잡하고 새로운 아이디어를 묵살합니다. 이 모든 것을 합치면 **매혹적인 명확성, 도덕적 분노 포르노, 게이미피케이션, 그리고 반향실이 결합되어 도덕 및 가치 체계를 채택한 것에 대한 보상으로 즐거움을 주는 시스템**을 만들게 됩니다. 이 시스템은 사용자의 시야를 좁혀 시스템이 원하는 것에만 집중하고 다른 것에는 관심을 두지 않도록 설계된 '끈적끈적한' 시스템입니다. 이러한 기술들은 궁극적으로 **좁은 마음을 갖도록 설계**되었습니다.

발표자가 에코 챔버와 필터 버블을 구별하는 주요 기준은 무엇이며, 이 둘이 어떻게 다르게 작동한다고 설명하나요?

발표자는 '거짓 명확성'이 사람들의 사고를 어떻게 조작하는지 설명하기 위해 어떤 인지 과학적 개념과 실제 사례(예: 학점, 법대 순위)를 사용하나요?

강연에서 '도덕적 분노 포르노'라는 개념이 도입되는데, 발표자는 이를 어떻게 정의하며, 왜 이것이 실제 도덕적 참여와 가치 체계에 부정적인 영향을 미친다고 주장하나요?

발표자는 게임과 게이미피케이션의 차이를 어떻게 설명하고 있으며, 게이미피케이션이 공공 담론에 어떤 위험을 초래할 수 있다고 보나요?

발표자는 거짓 명확성, 도덕적 분노 포르노, 게이미피케이션, 그리고 에코 챔버라는 네 가지 개념이 어떻게 결합하여 현대 온라인 환경에서 사람들의 '좁은 마음'을 조장하는지 설명합니다. 이 복합적인 메커니즘을 요약하여 설명해 주세요.

강연의 주요 아이디어: 쾌락을 위한 가치관 단순화

강연자는 에코 챔버와 온라인 분노에 대해 깊이 생각했으며, 우리가 쾌락을 위해 도덕과 가치관을 단순화하고 있을 가능성에 주목합니다.

복잡한 가치관은 고통스러울 수 있지만, 단순한 가치관은 더 안전하고 안정적이며 공동체적이라고 설명합니다.

사람들이 가치 체계를 의식적으로 단순화하도록 장려하는 시스템 설계에 대한 우려를 표합니다.

강연자는 사람들이 좁은 마음을 갖도록 설계된 시스템에 대해 가장 우려한다고 강조합니다.

에코 챔버와 필터 버블의 구분 및 작동 방식

강연자의 글이 캐슬린 홀 제이미슨과 제시카 팔로타의 에코 챔버에 관한 책을 기반으로 했다고 언급합니다.

사회학, 정치 철학, 언론학 분야에서 '필터 버블'과 '에코 챔버' 용어를 동의어로 사용하는 경향이 있지만, 실제로는 다른 개념임을 지적합니다.

엘리 파리저의 필터 버블은 상대방의 말을 듣지 못하는 현상을 의미합니다.

제이미슨 카펠라의 에코 챔버는 상대방을 불신하도록 가르치는 곳이며, 컬트 구조와 유사하다고 설명합니다.

에코 챔버가 음모론과 관련이 깊으며, 앙드레 베그비의 '증거 선취(pre-emption of evidence)' 개념을 통해 작동 방식을 설명합니다.

증거 선취는 조작자가 자신의 예측을 제시하고, 외부 정보가 그 예측과 일치하면 조작자에 대한 신뢰가 높아지는 방식입니다.

온라인 환경에서 에코 챔버 확산의 이유와 '믿음 조작' 시스템

오늘날의 소통 환경, 특히 페이스북과 트위터에서 에코 챔버와 극심한 정치적 양극화가 번성하는 이유에 대한 질문을 제기합니다.

에코 챔버는 컬트 메커니즘으로 인류와 함께 존재했지만, 온라인에서 이러한 폭발이 일어나는 연결 고리를 이해하고자 합니다.

좌파에도 에코 챔버가 존재하며, 양쪽 모두 유사한 방식으로 작동한다고 언급합니다.

대규모 '신념 조작자'의 역할을 상상하며 토론에 아이디어를 주입하고 믿음을 통제하는 방법을 모색합니다.

신념 조작의 세 가지 흐름: 거짓된 명확성

신념 조작의 세 가지 흐름을 제시하며, 첫 번째는 '거짓된 명확성(false clarity)'이라고 밝힙니다.

명확성은 때때로 사고를 종결시키며, 인간은 유한한 존재이므로 인지 자원을 관리하기 위해 조사를 빨리 끝낼 방법이 필요하다고 설명합니다.

혼란감을 조사 지속의 경험적 방법으로, 명확성을 조사 종료의 경험적 방법으로 사용한다고 제안합니다.

악한 인식 조작자는 어떤 사고 체계에 명확하다는 느낌을 주어 사람들이 그것에 대한 생각을 멈추게 할 수 있다는 취약점을 지적합니다.

최고의 사고 종결 휴리스틱을 뇌를 위한 투명 망토에 비유하며, 최고의 스파이가 평범하고 눈에 띄지 않듯이 지루하고 명확하게 느껴지는 것이 주의를 조작할 수 있다고 설명합니다.

인지 과학의 '처리 유창성(processing fluency)' 개념을 통해 생각하기 쉬울수록 아이디어를 수용할 가능성이 높다는 것을 뒷받침합니다.

아이디어가 반복되거나 읽기 쉬운 글꼴로 제시될 때 더 쉽게 수용된다는 심리학 실험 결과를 인용하며, 이러한 경험 법칙이 조작될 수 있음을 보여줍니다.

슬로건이나 밈(meme)이 친숙한 형식으로 제시되어 수용도를 높이는 것처럼, 악한 조작자들이 이러한 방법을 사용할 수 있다고 경고합니다.

이해의 해킹: 거짓된 명확성을 통한 조작

악한 조작자가 되고자 한다면, 사람들이 이해하지 못하더라도 무언가를 이해하는 것처럼 느끼게 만들고 싶다고 설명합니다.

과학 철학 문헌을 인용하여 이해의 본질은 개별 사실뿐만 아니라 사실 간의 관계, 일관성, 그리고 새로운 정보를 수용하는 능력이라고 정의합니다.

적대적인 신념 조작자는 상황이 제자리에 맞아떨어지는 느낌, 연결을 보는 느낌, 설명을 생성하는 능력, 전달 가능성을 극대화하는 시스템을 만들고 싶어 한다고 말합니다.

진정한 이해를 추구하는 사람들은 진실에 주의를 기울여야 하지만, 조작자들은 진실에 관심 없이 최대의 명확성을 위해 시스템을 설계할 수 있다고 설명합니다.

패스트푸드에 비유하여, 조작자는 건강에 관심 없이 맛을 극대화하듯이, 진실에 관심 없이 뇌가 맛있게 느끼도록 만들 수 있다고 설명합니다.

러시 림보 스타일의 반향실과 음모론이 모든 복잡한 세상을 하나의 거대한 갈등으로 설명하며 강력하고 이해하기 쉬운 설명을 제공한다고 지적합니다.

관료적인 트래픽 지표, 양적 평가 또한 '거짓된 명확성'을 제공한다고 비판합니다.

Theodore Porter의 '신뢰할 수 있는 숫자'를 인용하여 질적 방법이 풍부하고 미묘한 반면, 양적 방법은 정보, 뉘앙스, 맥락의 풍부함을 제거한다고 설명합니다.

영국의 고대 토지 측정 단위 '하이드'와 현대의 '에이커'를 비교하여, 에이커가 기능적 민감성과 맥락적 지식을 잃지만, 중앙 관료가 쉽게 집계하고 관리할 수 있음을 보여줍니다.

Sänger와 Engelmayer의 '수량화의 유혹'을 언급하며, 유엔의 인간 개발 지수와 같은 순위가 일단 정해지면 사람들이 그것에 집착하게 된다고 지적합니다.

지표와 측정 기준은 창조 과정의 복잡성과 주관성을 숨겨 권위의 허울을 드러내며, 수천 개의 정보를 단일 숫자로 요약하여 강력한 이해와 분류 능력을 제공한다고 설명합니다.

교육 시스템에서 GPA와 같은 계량화가 심화되면서 학생의 성공을 졸업률과 같은 양적 데이터로 정당화해야 하는 현실을 비판합니다.

질적 평가는 풍부하고 맥락에 민감하지만 관리자가 집계하기 어렵기 때문에 GPA와 같은 단순화된 숫자가 선호되며, 이는 쉬운 인지 능력, 힘, 이해 감각을 제공한다고 설명합니다.

웬디 아일랜드의 '불안의 엔진'을 인용하여 US 뉴스 앤 월드 리포트의 로스쿨 순위가 법학 교육을 파괴했으며, 학교들이 순위의 가치에 따르도록 강요당했다고 주장합니다.

로스쿨 순위가 학생들에게 거짓된 명확성을 제공하여 자신의 가치를 고려하지 않게 만들 수 있다고 우려합니다.

양적 시스템은 정보와 뉘앙스를 버리고 몇 가지 특징에만 집중하여 명확한 느낌을 만들며, 이는 사고 해킹의 취약점이라고 요약합니다.

숫자나 과학이 나쁘다는 것이 아니라, 교육 평등과 같이 측정하기 어려운 것들을 지나치게 단순화된 측정에 끌리는 경향을 경고합니다.

도덕적 분노 포르노: 쾌락을 위한 도덕적 신념의 도구화

두 번째 흐름은 '포르노'로, 베카 윌리엄스와 공동 집필한 논문을 통해 일반적인 의미의 'X 포르노' 개념을 탐구합니다.

음식 포르노, 부동산 포르노, 옷장 포르노 등 새로운 의미의 포르노 사례를 제시하며, 이는 실제 비용과 결과 없이 즉각적인 만족을 위해 표현을 사용하는 것이라고 설명합니다.

도덕적 분노 포르노는 실제 도덕적 참여의 비용과 결과에서 벗어나 즉각적인 만족을 위해 도덕적 분노에 대한 표현을 사용하는 것입니다.

실제 도덕적 참여는 올바른 것을 얻으려 노력하고, 미묘한 차이를 이해하며, 진실에 주의를 기울이고 행동하는 것을 포함한다고 말합니다.

도덕적 분노 자체는 나쁜 것이 아니며, 오히려 중요하지만, 포르노 버전은 진정한 것의 기능을 훼손한다고 강조합니다.

도덕적 분노 포르노를 사용하면 쾌락을 위해 도덕적 신념 체계와 도덕적 삶을 도구적으로 바꾸게 되며, 이는 도덕적 신념을 단순화하게 만든다고 지적합니다.

진정한 도덕적 신념은 뉘앙스에 민감하고 자신이 틀릴 가능성에 열려 있어야 하지만, 도덕적 분노 포르노는 쾌락을 극대화하기 위해 단순한 신념 체계를 선호합니다.

게임화: 가치 포착과 시야 협소화

강연자는 시스템이 분명하고 단순한 용어로 상대방을 비난하는 신념 체계를 만들어 사람들이 우월함을 느끼고, 동시에 명확한 설명을 제공함으로써 도덕 체계를 단순화하는 즐거움을 얻도록 한다고 말합니다.

세 번째 흐름은 '게임과 게이미피케이션'이며, 자신의 책 'Games Agency as Art'를 소개합니다.

게임은 일시적인 목표가 있는 일시적인 환경으로, 게임 디자이너가 만든 목표와 능력을 통해 새로운 목표를 얻게 된다고 설명합니다.

인생의 가치관은 불분명하고 적용하기 어려우며, 서로 절충하기 어렵지만, 게임은 단순화되고 수량화된 목표를 제시하여 무엇이 중요한지에 대한 명확성을 제공합니다.

게임에서 목표는 일시적이지만, 게임화는 실제 삶의 목표를 단순화하여 사람들이 점수를 얻는 일에만 신경 쓰게 될 위험이 있다고 우려합니다.

트위터와 같은 공론장에서 게임화가 이루어지면 사람들이 올바른 것을 얻는 대신, 도덕적 분노와 같이 가장 많은 점수를 얻을 수 있는 일에만 집중하게 된다고 지적합니다.

'가치 포착(value capture)'은 풍부하고 미묘한 가치가 단순화되거나 정량화된 형태로 시스템에 놓여 모든 것이 엉망이 되는 현상입니다.

학업 성적, 리트윗 수, 핏빗 걸음 수, BMI, 바이럴 콘텐츠 등이 가치 포착의 예시로 제시됩니다.

게임 점수 시스템은 특정 차원에 대한 명확하고 정량화된 척도를 제공하여 활동을 더 명확하고 즐겁게 만들지만, 이를 위해서는 가치를 단순화해야 한다고 설명합니다.

게임화는 우리의 가치를 도구화하고 단순화하며, 점수가 붙은 것에 관심을 갖기 시작하면 게임처럼 느껴지고 더 즐거워질 수 있다고 말합니다.

게임에서는 '가치 가리개(value blinkers)'를 씌워 점수와 승리 조건에만 신경 쓰게 만들며, 조작자들은 사람들이 자신의 편에 도움이 되는 것만 신경 쓰도록 '가치 맹인'이 되기를 원한다고 설명합니다.

세 가지 흐름의 결합: 도덕적 시야 협소화

세 가지 흐름을 종합하여, 신념 조작자는 거짓된 명확성, 단순화된 도덕 시스템, 반향실을 통해 사람들을 좁은 목표에 집중시키고 즐거움을 얻도록 게임화한다고 설명합니다.

이 모든 시스템은 도덕적 시야의 협소함을 강화하고 조장하며, 사람들이 적은 수의 것들에만 관심을 갖게 하고 끈적끈적하게 만들려고 한다고 비유합니다.

도덕적 분노 포르노는 단순한 시스템 채택에 즐거움을 제공하고, 숫자는 뉘앙스를 숨기며, 게임화는 수량화되고 단순화된 목표 채택에 즐거움을 제공하고, 반향실은 외부의 복잡한 아이디어를 묵살합니다.

이러한 매혹적인 명확성, 도덕적 분노 포르노, 게임화, 반향실을 합치면, 도덕 및 가치 체계를 채택한 것에 대한 보상으로 즐거움을 주는 시스템과 시야를 좁혀 특정 것에만 집중하도록 설계된 끈적끈적한 시스템을 얻게 된다고 결론짓습니다.

이들의 기술은 '좁은 마음을 갖도록' 설계되었습니다.

C. Thi Nguyen: The Gamification of Public Discourse (Royal Institute of Philosophy)

스크립트