*우리 시대의 최대 화두인 4차 산업혁명과 그 정치적 결과물로서의 디지털 독재에 관한 이론과 사례를 분석한 글을 2부로 나눠서 게재합니다.

4차 산업혁명은 인간 생활의 기본 조건과 환경을 근본적으로 변화시키고 있다. 따라서 우리가 살고 있는 국가와 사회의 조직 원리, 작동방식, 권력 관계 등에 있어서도 혁명적인 변화의 물결이 몰려오고 있다. 그중에서도 4차 산업혁명이 가져온 다양한 변화들이 지금까지 인류가 고안해 낸 최선의 정치체제로 인식되는 민주주의의 미래에 어떤 영향을 미칠 것인지는 초미의 관심사가 아닐 수 없다. 4차 산업혁명이 수반한 지능정보기술 혁명이 민주주의의 발전을 촉진할 것인가, 아니면 민주주의를 위협할 것인가? 지능정보기술 혁명은 자유주의에 어떤 악영향을 끼치면서 디지털 독재를 출현시키는가? 디지털 독재를 추구하는 대표적인 사례들은 무엇인가? 4차 산업혁명이 던져준 정치적 불안정을 극복할 방법은 무엇인가?

4차 산업혁명이 가져온 지능정보기술 혁명은 오랫동안 정형화되어온 현대 민주주의의 과정, 제도, 이념에 커다란 변화를 가져오고 있다. 우선 가장 주목할 만한 것은 일반 시민들의 활발한 정치참여이다. 스마트폰으로 무장한 시민들의 정치적 의사 표현은 소셜 미디어 등 디지털 네트워크를 통해 급격히 확산되면서 대단한 위력을 보여주고 있다.

특히 급격한 디지털 기술의 발전 속에서 소통의 속도와 범위가 근본적으로 혁신됨으로써 민의(民意)의 개진, 공유, 통합이 과거와는 비교할 수 없을 정도로 매우 자유롭고 용이해졌다. 이는 단순히 기존 정치에 대한 비판과 저항에 머물지 않고, 시민들이 다양한 디지털 디바이스를 활용해서 자신의 의사를 언제나 즉각 표현하고 정책 논의 및 결정 과정에 직접 참여하는 ‘직접민주주의’의 실현을 통해 ‘디지털 민주주의(digitalcracy)’시대로 전환하고 있음을 의미한다. 그리고 이 과정은 대의제 민주주의의 문제로 지적되어온 위임 권력의 대표성(representativeness)과 책임성(responsibility)의 문제들을 해결하고 디지털 네트워크 시대에 맞는 정당과 의회의 변화를 추동한다는 점에서 긍정적이다.

여기에 인공지능의 등장은 시민들의 자기 결정권을 강화하는 데 도움을 준다. 시민들은 인공지능을 통해 얻은 다양하고 정확한 데이터와 정보를 통해 시민 공론의 장에 관여함으로써 정치적 숙의(熟議) 과정에 합리적으로 적극적으로 참여하는 실질적 주권자로서의 역할을 할 수 있게 된다. 그 결과로 직업 정치인들에게 주요 의사결정을 위임하기보다는 시민이 직접 참여하면서 심도 있는 논의와 토론을 지속할 수 있는 ‘숙의민주주의(deliberative democracy)’로의 획기적인 발전이 가능하게 될 것이다.

아울러 인공지능은 실시간 정보분석을 통해 정치체계에 발생하는 오류와 부정부패를 즉시 확인할 수 있고, 선거를 포함해서 정치부패의 고비용정치를 개선할 수 있으며, 가치중립적이어서 정치적 선택을 위한 새로운 기회를 만들기 때문에 민주주의를 촉진시킨다고 옹호론자들은 주장한다.

하지만 4차 산업혁명이 수반하는 지능정보기술 혁명이 민주주의에 부정적인 영향을 끼치며 디지털 독재의 길을 열어놓는다는 다양한 주장들도 제기된다. 우선, 국가가 인공지능을 비롯한 새로운 기술들을 시민들에 대한 감시와 정치적 통제에 활용할 가능성이 높아졌다. 현재 중국 공산당의 공안(公安)과 올 7월이후 공수처법이 시행되면 한국의 경우가 이에 해당될 것이다. 안면인식, 음성인식, 보행인식 등 다양한 첨단기술은 개인에 대한 전면적이고 세부적인 감시 능력을 획기적으로 향상시켰다. 또한 빅데이터와 인공지능은 억압적인 정부가 이용 가능한 정보를 조작하고 허위 정보를 퍼뜨리는 방식으로 대중조작과 여론조작에 활용될 수 있다.

예컨대, 인공지능은 진짜처럼 보이고 들리는 위조된 비디오와 오디오를 알고리즘을 통해 만들어내는 ‘딥페이크(Deepfake)’ 기술을 보강할 수 있는데, 이를 이용해서 실제로 일어나지 않은 말과 행동을 한 것처럼 보이는 가짜 동영상을 만들 수 있다. 아울러, 이 기술들은 데이터를 이용해서 사람의 생각과 행동에 개입해서 사람들로 하여금 자기의 생각보다 다른 사람의 생각을 따르도록 유도할 수 있다. 이러한 조작은 개인들이 의식하지 못하는 사이에 인터넷 정보제공자가 이용자 맞춤형 정보를 제공해 필터링 된 정보만 이용자에게 도달해 편향된 정보에 갇히게 되는 ‘필터 버블(Filter Bubble)’로 이끌게 된다.

특히 선거에서 데이터에 대한 인공지능의 개입은 대중의 정치에 대한 담론과 정치 정서를 조작하여 여론을 오도(誤導)할 수 있다. 여기에 인공적으로 메아리를 만드는 반향실처럼 온라인 공간에서 자신과 같은 목소리가 메아리치고 증폭되는 현상인 ‘에코 체임버(Echo Chamber)’ 효과는 자신과 생각이 비슷한 사람들끼리만 소통하게 되면서 편향된 사고를 강화시킨다. 결국, ‘필터 버블’과 ‘에코 체임버’는 자기가 보고 싶은 것만 보고 믿고 싶은 것만 믿는 확증편향을 강화하면서 부지불식간에 개인의 생각을 조종당하고 여론을 조작당하는 디지털 독재의 주요한 수단으로 이용될 가능성이 커지고 있다.

뿐만 아니라, 인공지능은 데이터의 독점을 초래해서 정보와 특정 산업에 대한 독과점을 허용하게 된다. 그런데 이 데이터 독점은 과도한 이윤추구, 기술발달 침체, 비효율성을 낳게 되고, 빈부 격차를 발생시켜 민주주의를 훼손시킬 것이다. 아울러 정보의 집중을 초래하고 더욱 효율인 작동을 위해 데이터 독재주의가 등장할 가능성을 높인다. 또한, 인간이 정보의 수집과 분석 및 의사결정을 인공지능에 맡김으로써 민주적 의사결정을 수행할 수 있는 시민 능력의 결여를 가져와 민주주의의 위기를 초래할 수 있다.

인공지능에 대한 의존은 인간의 자유를 쇠퇴시키고 지적 퇴락을 가져오며 자율적인 판단능력을 상실하게 만들어 민주주의를 불가능하게 할 수 있다. 여기에 인공지능의 알고리즘은 설계와 데이터의 내재된 편향성 때문에 불평등과 사회적 차별을 약화시킬 수 있다. 알고리즘 프로그래머나 코드 작성자는 그들이 객관성, 중립성을 유지하려고 해도 어쩔 수 없이 알고리즘을 만들 때 그들 자신의 관점과 가치를 반영시킬 수밖에 없다. 또한 알고리즘은 이미 존재하는 차별화된 사회를 반영하게 되고 이는 인공지능에도 차별이 나타날 수밖에 없다. 따라서 사회의 소외계층을 차별하고 경제 불평등을 악화시킬 가능성이 크다. 이러한 불평등의 악화는 시민들 사이의 신뢰와 공감의 기반을 파괴하고 시민들이 민주주의 제도에 대한 불신과 냉소적 태도를 갖게 하며, 결국 정치과정에의 참여를 어렵게 만든다.

그리고 이들의 불참은 민주주의의 악화로 이어진다. 결국, 불평등은 민주주의를 증진시키기보다는 악화를 지속적으로 초래하는 악순환에 빠질 가능성이 커진다.

이처럼 4차 산업혁명의 정보지능기술 혁명이 어떻게 오늘날 민주주의에 악영향을 주고, ‘디지털 독재(digital dictatorship)’를 만들어내는지를 가장 체계적으로 분석한 학자가 바로 우리에게 「사피엔스(Sapiens)」로 잘 알려진 이스라엘의 역사학자 유발 하라리(Yuval Noah Harari) 예루살렘 히브리 대학교 교수이다. 하라리 교수는 자신의 ‘인류 3부작’의 완결편인「21세기를 위한 21가지 제언 (21 Lessons for the 21st Century」에서 ‘디지털 독재’의 출현을 경고하고 있다.

그는 이 책에서 지난 수십 년간 세계를 지배했던 자유주의가 고장 났다고 진단한다. 20세기 이후 파시즘, 공산주의와의 경쟁에서 승리한 자유주의가 2008년 글로벌 경제위기 이후 세계화, 자유화의 모순과 한계가 드러나면서 곤경에 처했다는 것이다. 그러면서 미국의 트럼프 집권과 영국의 브렉시트(Brexit)가 대변하듯 이민자와 자유무역협정에 대한 저항감은 높아가고 장벽과 방화벽이 다시 유행하고 있는 현실을 이를 방증하는 사례로 든다. 이런 가운데 가속화하는 생명기술과 정보기술 혁명이 자유주의에 대한 불신을 더욱 악화시킨다고 파악한다. 생명기술 혁명은 인간의 신체는 물론 뇌와 감정까지도 판독 가능한 대상으로 변화시켰고, 정보기술 혁명은 이를 데이터로 처리할 수 있는 능력을 갖게 해주었다. 그렇게 해서 탄생한 빅데이터 알고리즘은 이제 우리 자신보다 우리에 대해 더 많은 것을 알게 될 것이라고 주장한다.

그런데 문제는 자유주의가 제조업에 기반을 둔 20세기 산업자본주의를 뒷받침하는 체제이기 때문에 현재 우리가 경험하는 기술 분야의 혁명적 변화에는 제대로 대처할 수 없다는 데서 비롯된다고 하라리 교수는 주장한다. 근대의 자유주의는 인간의 권위를 정당화했지만, 4차 산업혁명이 탄생시킨 디지털 혁명은 빅데이터 알고리즘의 권위를 정당화하면서 동시에 개인이 자유롭다는 생각을 무너뜨린다는 것이다. 그러면서 그는 기술 혁명의 시대와 디지털 독재와의 친화성을 정보처리와 연관 지어 설명한다.

하라리 교수에 따르면, 20세기 후반 민주주의가 독재를 능가했던 것은 데이터 처리에서 우월했던 덕분이었다. 민주주의는 정보를 처리하고 결정하는 권한을 사람과 기관에 분산하는 반면 독재는 한 곳에 집중한다. 20세기 기술로 보면 너무 많은 정보와 힘을 한 곳에 모으는 방식이 비효율적이었다. 그 누구도 모든 정보를 충분히 빠르게 처리하면서 옳은 결정을 내릴 수는 없었기 때문이다. 구소련이 미국보다 훨씬 나쁜 결정을 내리고 경제도 훨씬 뒤처져서 미국과의 체제경쟁에서 패배한 데에는 이런 점도 작용했다. 하지만 인공지능(AI)이 정보처리와 판단을 대신하기 시작한 21세기는 상황이 전혀 달라졌다. AI가 등장하면서 막대한 양의 정보를 중앙에서 모두 처리할 수 있게 된 것이다. 실제로 AI는 정보량에 구애받지 않을 뿐 아니라 정보가 집중될수록 훨씬 효율적으로 작동한다. 그러므로 20세기에는 독재에 장애가 됐던 정보집중이 21세기에는 독재에 유리하게 작용할 수 있다는 것이다.

결국 하라리 교수는 과학기술 혁명을 통해 인간의 권위가 빅데이터 알고리즘으로 넘어가고, 권위주의 정부가 알고리즘을 이용해 시민들에게 절대적 통제권을 행사할 수 있는 ‘디지털 독재’를 만들어낼 수 있다고 전망한다. 그는 “생명기술과 정보기술이 융합하는 시대에 민주주의는 현재 형태로는 살아남을 수 없다. 민주주의는 근본적으로 새로운 형태로 재탄생해야 한다. 안 그러면 인간은 ‘디지털 독재’ 안에서 살게 될 것이다.”라고 주장한다. 뿐만 아니라, 기술 혁명이 모든 부와 권력을 극소수 엘리트에게 집중시키고 대다수를 쓸모없는 무용(無用)계급으로 전락시킴으로써 인류를 전례 없는 불평등 사회로 이끌 수 있다고 본다. 정보기술과 생명기술이 수십억 명의 일자리를 뺏고 인류가 이룩한 근대적 가치인 자유와 평등을 위협할 수 있다고 경고하고 있다.

그런데 하라리 교수가 경고한 것처럼 IT 기술의 혁명적 발전을 이용해서 독재를 더 강력하고 효율적으로 수행할 수 있게 시도하는 국가가 있다. 바로 시진핑(習近平)의 중국과 한국의 문재인 정권이다....(계속)

(4차산업혁명과 디지털 독재의 구체적 사례 분석이 2부에 이어집니다.)

장성민 세계와동북아평화포럼 이사장