2화 명멸(明滅)하는 데이터 디스토피아

<사회의 바깥, 소설의 안쪽>

 

2화 명멸(明滅)하는 데이터 디스토피아

 

 

지영(국문학 연구자)

 

 

1. 온라인의 비트 세계

2017년 7월 28일 인문 예능프로그램을 표방하며 등장한 <알쓸신잡>이 끝났다. 감독판인 마지막 회에서는 편집되어 방송에 나가지 못한 ‘4차 산업혁명’에 대한 이야기가 담겨 있었다. 정재승 교수는 4차 산업혁명을 다음과 같이 문장으로 정리했다. “현실 세계의 모든 것들이 온라인의 비트 세상으로 옮겨간다.” MC인 유희열이 ‘온라인의 비트 세계’란 말의 의미를 제대로 파악하지 못해서 되뇌이자, 그는 좀더 구체적인 설명을 덧붙인다. 이것은 오프라인에 있는 모든 사물에 인터넷이 붙어서 사물의 작동뿐 아니라 사람의 행동이나 생각까지가 ‘데이터화’ 되는 것이다. 원자로 이루어진 물질세계는 본질적으로 공간을 점유하고, 이 물질들을 이동하기 위해서는 에너지가 많이 필요하다. 그리고 이 안에서 변화를 이끌려면 인간의 노동이 더해져야만 한다. 하지만 모든 것들이 데이터화가 되어 온라인상에 존재한다면 인공지능은 그 데이터를 빠르고 비용이 거의 들지 않는 방식으로 분석해서 새로운 의미를 산출할 수 있다.^[각주:1]

정재승 교수가 이야기한 ‘데이터화’는 미래의 기술이 아니라 이미 상당 부분 진척된 기술이다. 2015년 12월 페이스북이 안면 인식 기능과 사진 전송 기능이 포함된 ‘포토매직’ 기술을 공개한 이후, 기술의 진보가 가져오는 편리함에 주목하는 이들과 국가나 거대기업의 사찰을 우려하는 목소리가 동시에 들려 왔다. 이 기능을 허용하는 사람들은 같이 사진을 찍은 사람에게 잊지 않고 사진을 보낼 수 있다는, 어찌 보면 사소한 편리함을 위해서 자신뿐 아니라 지인들의 얼굴을 데이터로 처리하는 기술을 용인한다. 하지만 이 기술이 상용화된 사회에서 국가를 위시한 거대권력의 표적이 된 사람은 삶의 안전과 존엄을 지키기 위한 공간을 확보하기 매우 어려울 것이다.

이러한 우려는 중국에서 현실화되었다. 이미 중국에는 무단횡단을 하는 사람의 얼굴과 이름을 전광판에 띠우는 감시카메라가 1억 7600만 대나 설치되어 있다. 이 카메라는 앞으로 3년 내에 4억 5000만 대까지 늘어날 전망이라고 한다. 중국 정부는 인권 침해 논란에도 ‘안면 인식 기술’을 이용해 위법 행위를 근절하겠다는 방침이다. 이 카메라는 긍정적으로 평가한다면 “도로 위의 무인경찰”이라고 부를 수도 있겠지만, 비판적인 관점에서 본다면 중국판 ‘빅브라더’인 셈이다.^[각주:2] 『1984』 이후 언제나 그랬듯 빅브라더의 목표는 국민의 일거수일투족을 감시하고 규율에 어긋나는 행동을 통제하는 것이다.

데이터를 이용한 중국의 국민 통제는 여기에서 멈추지 않는다. 더 큰 문제는 행동뿐 아니라 의식까지 감시하고 통제할 수 있는 “중국의 사회신용시스템”이다. 중국에서는 자동차 경적을 울리면 자동차 번호가 전광판에 뜨고 벌금도 내야 한다. 또한 그 벌점이 누적되면 대출, 고용, 해외여행, 자녀의 상급학교 지원 등에서 여러 가지 제약을 받게 된다. 중국정부는 빅데이터를 이용해 국민에게 좀 더 높은 도덕적 기준을 심어 주고 통제력을 강화하고자 한다.

 

^[각주:3]

 

2014년 6월 14일 중국 정부는 ‘사회신용시스템 구축계획(2014~2020)’을 발표했다. 이 시스템은 사회구성원들의 신용정보와 신용 인프라를 연계해 하나의 망을 구축한다. 중국 국민은 정부, 상업, 사회, 사법 네 분야에서 평점을 받게 되고, 정부는 이 평점에 따라 국민에게 포상을 주거나 국민을 처벌할 수 있다. 이러한 기술이 국가적 차원에서 상용화될 수 있었던 이유는 중국의 대표적인 온라인 기업 알리바바의 조 차이 부회장의 말을 통해 짐작 가능하다. “우리는 사람들이 자신의 온라인 행태가 온라인 신용 평점에 영향을 미친다는 것을 인지하고, 올바른 행동을 하기를 바랍니다.” 중국의 사회신용시스템은 온라인뿐 아니라 오프라인에서도 인간의 행동과 의식을 통제하여 내면화하는 시스템이다.^[각주:4]

 

2. 데이터 디스토피아

현대 중국에서 일어나고 있는 통제 시스템이 ‘SF’ 장르에 등장한 것은 이미 오래 전 일이다. SF 장르 안에서 과학 기술이 만든 미래 사회를 디스토피아로 완성시키는 것은 바로 이런 통제시스템이다. 인간이 노동으로부터 자유롭고, 행복한 감정을 느끼면서 살아갈 수 있음에도 자신의 생각과 행동을 계속해서 감시받고 통제받는다면 그곳은 결코 유토피아일 수 없다. 그리고 그 통제가 ‘데이터’를 기반으로 이루어질 때, 그 공간을 ‘데이터 디스토피아’라고 부를 수 있을 것이다.

정확히 데이터 디스토피아를 그리고 있다고 할 수는 없지만, 이 계열의 기원에 해당하는 작품은 두 가지이다. 하나는 올더스 헉슬리의 『멋진 신세계』이고, 다른 하나는 조지 오웰의 『1984』이다. 1932년에 올더스 헉슬리가 『멋진 신세계』를 발표했을 때, 사람들은 이 소설에 담겨 있는 이야기가 현실화될 가능성은 거의 없다고 생각했다. 작품 속의 배경이 2540년이었는데도 말이다. 하지만 헉슬리의 제자이기도 했던 조지 오웰이 1949년에 『1984』를 썼을 때 많은 사람들이 이런 일은 현실에서 충분히 일어날 수 있다고 받아들였다. 작품 속의 시간은 556년이 앞당겨졌고 현실 공간에서는 17년이 흘렀을 뿐이지만, 제2차 세계대전을 겪으며 나치즘과 파시즘을 목격했던 사람들에게 오웰의 소설 속에 등장하는 ‘빅브라더’는 더 이상 낯선 존재가 아니었다.

이 두 작품에서 파생한 데이터 디스토피아를 다루는 서사는 과학기술의 발전으로 인해, 기후를 비롯한 지구의 자연 환경과 동식물의 생태계, 그리고 인간의 유전자까지도 데이터로 처리될 수 있는 세상을 배경으로 펼쳐진다. 이곳에서는 ‘인간다움’이라고 불리는 인간 본연의 속성, 즉 미지의 세계를 향한 도전 의식, 자유에 대한 갈망, 생명에 대한 존중 등이 사라진다. 다채로운 빛을 띠는 인간들의 개성은 사라지고, 사회의 질서를 유지하기 위한 부속품, 즉 데이터로 인간들이 전락하는 사회가 바로 ‘데이터 디스토피아’이다.

 

 

SF를 사색적인 장르로 만들었다고 평가 받는 로버트 하인라인은 1957년 대학 강연에서 “SF란 실현 가능한 미래의 사상에 관한 현실적인 예측”이라고 말했다. 이 말을 풀어보면 SF에 담겨 있는 이야기는 허무맹랑한 것이 아니라 ‘실현 가능’한 것이고, 미래 사회의 물질적 기반뿐 아니라 이데올로기적 측면까지 포괄하는 ‘미래의 사상’을 담고 있다. 또한 SF는 작가의 여기(餘技)로 등장한 허구적 산물이 아니라 현대사회와의 개연성을 담보로 한 ‘현실적인 예측’의 소산이다. 과거에 창작된 SF 작품들이 오늘날 실현된 부분이 있는 것처럼, 현시점에서 미래 사회를 다루고 있는 SF에는 아직 도래하지는 않았지만 머지않은 미래에 펼쳐질, 혹은 이미 어딘가에서 진행되고 있는 우리들의 삶의 모습이 담겨 있을 가능성이 농후하다.

 

3. 스마트D : 상품을 가장한 병기(兵器)

한국 SF 소설 중에서 데이터 디스토피아에 대한 상상력을 잘 보여주는 작품은 배명훈 작가의 「스마트D」^[각주:5]이다. 이 작품의 초반부는 SF 공모전에 투고를 하고 자살을 하겠다는 인물과 그의 원고를 기다리는 인물 사이의 긴장을 중심으로 구성된다. 그런데 컴퓨터의 ‘D’ 글자에 저작권이 걸려 있고 투고를 하려는 사람의 컴퓨터에 이 글자, 즉 ‘스마트 D’가 부족하면서 사건이 복잡하게 얽히기 시작한다. 자신의 마지막 글을 투고하고 자살을 하려는 사람의 이야기는 비장함을 자아내기에 충분한 소재이지만, 작품 속에서 실질적으로 느껴지는 것은 유머러스한 분위기이다.

글자에 지적재산권이 걸려 있다는 것은 상식적으로 이해하기 힘든 일이다. 하지만 스마트 D사는 “언어처리 기술 서비스”(39)를 하면서 A에서 Z까지 스물여섯 개 글자 모두에 대한 서비스를 제공하면서, 이 중 과금은 ‘D’자에 대해서만 청구한다. 그렇기 때문에 “불법 D 사용은 범죄”(41)이며, 이 “글자를 팔아먹는 사업”으로 인해 ‘스마트D 3원칙’이라는 것도 만들어졌다. 이 회사는 알파벳 D의 사용을 감시하기 위해 D가 포함된 문서를 감시한다. 사실 D가 포함된 문서를 감시할 수 있다는 것은 전 세계의 거의 모든 문서를 감시할 수 있다는 뜻이다. 이것은 상품의 방식으로 둔갑한 최고 강도의 검열 시스템이기 때문에 더 문제적이다.

 

 

사전에서 ‘smart’를 검색해보면 이 단어의 다양한 의미를 발견할 수 있다. 가장 일상적으로 사용되는 의미는 사전에 여섯 번째로 등록된 “맵시 있는, 말쑥한, 산뜻한”이다. 하지만 이 작품의 표제에 등장하는 ‘smart’는 ‘스마트D’의 기능적 측면까지 고려해 사전의 열 번째 뜻인 “(기기·병기 등이) 컴퓨터화한, 고성능의”로 보는 것이 더 적당할 것이다. 지적재산권이 걸려 있는 ‘스마트D’는 수익을 창출할 수 있는 단순한 상품이 아니라, 국가와 기업이 합작하여 문서를 검열하고, 문제를 일으켰다고 판단되는 상대를 제압할 수 있는 권한까지를 지닌 일종의 ‘병기(兵器)’이기 때문이다.

그래서 D가 하나도 안 들어간 소설을 쓴 김은경을 스마트 D사의 인공지능은 블랙리스트에 올릴 뿐 아니라 통제가 되지 않는다는 판단이 들자 제거하기에 이른다. 은경은 장편소설을 쓰면서도 스마트D를 하나도 사용하지 않는, “문명의 혜택으로부터 선택적인 격리”(44)를 자행한다. 그는 “글자 하나 쓰자고 인간이 인공지능에게 감시 권한을 스스로 내주는”(58) 것을 거부한다. 편리하기 위해서 감시받을 수도 있음을 허용하지 않음으로써, 개인의 존엄과 타인이 침투할 수 없는 자신의 고유 영역을 확보한다.

하지만 은경은 결국 스마트 D에 의해서 살해(?) 당하고, 은경의 소설을 검열하기 위해서 스마트 D들이 하늘에서 내려와 온 세상을 뒤덮는다. D자가 포함되지 않은 은경의 소설에 하늘에서 내려온 D들이 모든 단어 앞에 붙고, 검열을 끝낸 후 스마트D는 사라진다. 은경은 사라졌지만 은경의 노트북을 계속해서 사용하는 요주의 인물, 즉 은경의 남자 친구의 옷에 붙은 단 하나의 D만 빼고 말이다.

 

4. 먼지를 털다

「스마트D」는 참신한 방식으로 데이터 디스토피아의 모습을 그려내면서, 행위 주체들이 ‘~하지 않음’으로써 저항하는 모습을 보여주었다. 삶의 기본값처럼 설정되어 웬만한 사람들은 그런 상품이 존재하는지조차 모르는 ‘스마트D’에 대해, 은경은 스마트D를 사용하지 않음으로써 만성화된 전지구적 상품화와 감시에 저항한다. 하지만 은경은 이미 사라졌고, 은경의 남자 친구 역시 쫓기는 장면에서 작품이 끝났기 때문에 스마트D의 통제가 앞으로도 지속될 것임을 짐작할 수 있다.

「스마트D」와 달리 같은 작가의 연작소설 『타워』^[각주:6]에 실린 두 번째 소설 「자연예찬」에는 정권을 직접적으로 비판하는 글을 쓴 후 일명 ‘먼지가 털리는’ 작가 K가 등장한다. “털면 먼지가 나는 사람”(44)인 K는 정권이 부정을 저지르는 시기에 ‘자연주의 작가’를 표방하며 “대자연의 아름다움을 노래하기 시작”(45)했다. 그는 저소공포증이 있어서 실재 자연을 본 적이 없음에도 계속해서 자연을 예찬하는 글을 썼다. 사실 그는 취직이 어려운 빈스토크에 외국인을 취직달라는 부정 청탁을 받았고, 그 대가로 아름다운 자연을 보여주는 로봇과 로봇을 관리하는 아름다운 소녀를 얻었다. 그는 그것들을 잃고 싶지 않았고, 그래서 정부의 부정에 대해 침묵한다.

 

하지만 재개발 구역에서 사람이 떨어져 죽는 사건이 발생했는데, “잘못했다는 사람이 아무도 없”(65)는 상황을 대면하고는 더 이상 침묵할 수 없다고 판단한다. “공권력이 불러온 냉혹한 겨울”(70)에 그는 “죽은 사람이 죽기 전에 본 세상이 절망과 증오와 분노와 슬픔이었다면 그것은 책임 있는 사람 모두의 잘못”(71)이라며, 이 일이 벌어진 것에 대해 이미 기득권이 되어 버린 자신의 무책임과 잘못을 인정했다. 이런 일은 일어나기 전에 막아야 하는데 그러지 못했고, 이미 일어난 후에는 죽은 사람과 그 죽음으로 인해 상처 받은 사람들을 위로할 수 있는 방식으로 사후처리가 이루어져야 하는데 그러지 못했다.

이 사건 이후 K는 먼지가 털린다. “상식에 어긋난 청탁, 그리고 그 밖의 수많은 먼지들. 먼지는 생각보다 많이 났다.”(72) 정권을 비판하는 글을 쓰면 먼지가 털릴 것이고, 먼지를 털면 먼지가 날 것임을 알면서 불의를 비판한 K는 자신의 과오를 바로 잡을 수 있을 만큼의 힘을 지닌 “바르고 곧은 사람”(52)이다. 이제 로봇은 그에게 자연 풍경을 데이터로 만들어 전송하기를 멈추었다. K는 초반에는 아름다운 자연과 소녀의 모습이 담긴 영상을 보내주는 로봇을 포기하지 않으려 했지만, 극한의 순간에 그는 이 데이터들을 포기하고 작가로서의 양심을 지키고 기득권으로서 책임지는 것을 선택한다.

 

5. “그냥”, 파국을 유예하는 힘!

『타워』는 『잭크와 콩나무』에 나오는 ‘빈스토크’의 상상력을 빌려 674층의 건물 국가가 있다면 어떤 일이 벌어질 수 있는지를 보여준 작품이다. 이 작품에는 건물 국가를 둘러싼 다양한 이야기가 담겼을 뿐 아니라 권력이나 권력장처럼 비가시적 요소들에 대한 탁월한 형상화가 담겨 있다. 작품 속에서 주변국들은 빈스토크를 ‘바벨탑’이라고 부르는데, 이러한 명명 방식은 빈스토크가 곧 붕괴되어야만 하는 디스토피아, 즉 재앙의 징조임을 암시한다.

그런데 이 작품에는 ‘바벨탑’ 혹은 디스토피아가 되는 것을 막는 힘에 대한 성찰이 담겨 있어 주목할 만하다. 『타워』의 세 번째 작품인 「타클라마칸 배달 사고」^[각주:7]는 타클라마칸 사막에 비행기 한 대가 추락하고 국가가 수색의 책임을 방기한 순간, 빈스토크의 수많은 사람들이 협력하여 그 조종사를 찾아낸다는 이야기이다. 위성을 임대하고, 웹사이트를 만들고, 사막 사진에 분할선을 긋고, 각각의 구역을 검색하는 등 모든 행위들이 개인들의 자발적 참여를 통해 이루어진다. 그리고 어느 순간 동시 접속자수 이백만 명이 넘어서면서 사람들은 성공적으로 해군을 찾아낸다.

이 작업을 시작한 은수는 이백만 명이 넘는 각국의 사람들이 참여한 상황을 보고 “왜?”라는 질문을 던진다. 사람들은 왜 한 번도 본 적 없는 사람을 밤새 찾고 있을까? 왜 이렇게 애를 쓰는 것일까? 이 질문에 대한 답으로 돌아온 것은 “그냥”이었다. “왜는 무슨 왜요? 그냥 찾는 거지.”(109) “그냥. 이유가 필요한가? 원래 인터넷에서 하는 일이 그렇잖아요. 그냥 해요. 그냥.”(109) 밤을 새워 분주히 움직여준 사람들은 이 일을 통해 이름을 알리려고 한 것도 아니고, 금전적인 대가를 기대한 것도 아니었다. 이들을 움직인 동력이 도덕적 원칙이나 정무적 판단이었다고 보기도 어렵다. 오히려 행위의 원인에 대한 고찰 없이 이루어지는 즉각적인 판단과 행위가 바로 이 세상을 살 만한 곳으로 만드는 힘이라고 할 수 있다. 생명이 위태로운 누군가를 찾는 일에 이유 따위는 필요치 않다. 그런 사람이 있다면 우리는 ‘그냥’ 그를 찾아야 한다.

현실 속에서, 그리고 SF 장르 속에서 데이터 디스토피아는 고정된 것이 아니라 나타났다가 사라지기를 반복한다. 유토피아인 줄 알았던 곳이 알고 보면 디스토피아이거나, 디스토피아인 줄 알았던 곳에 낯선 타인을 위해 기꺼이 희생하려는 소수의 사람들이 남아 있다면 그곳은 디스토피아이기를 멈출 수 있다. 그러므로 데이터 디스토피아는 계속해서 ‘명멸(明滅)한다.’ 데이터 디스토피아가 ‘나타난[明]’ 순간 이 힘을 무화시키는 힘, 다시 말해 이곳을 ‘사라지게[滅]’ 만드는 힘이 작동할 것이다. 이렇게 믿을 수 있는 이유는 아무런 대가도 바라지 않고 타인을 위해 ‘그냥’ 움직이는 사람들이 여전히 수많은 곳에 존재하고, 앞으로도 또 존재할 것이기 때문이다.

 

1. tvN <알아두면 쓸데없는 신비한 잡학사전> 9회, 정재승 발언 정리. [본문으로]
2. 임주리, 「'빅브라더' 중국, 무단횡단 땐 전광판에 얼굴·이름이 뜬다」, 『중앙일보』, 2017.7.14. http://news.joins.com/article/21756676 [본문으로]
3. 「중국, SNS·해외쇼핑·불효까지 감시…'빅브러더 사회'로 가나」, 『한국경제』, 2016.11.29. http://news.hankyung.com/article/2016112958091 [본문으로]
4. 김지우 외, 「조지 오웰의 악몽: 중국의 사회신용시스템」, 『아산정책연구원』 http://www.asaninst.org/contents/ [본문으로]
5. 배명훈, 「스마트D」, 『예술과 중력가속도』, 북하우스, 2016. [본문으로]
6. 배명훈, 「자연예찬」, 『타워』, 오멜라스, 2009. [본문으로]
7. 배명훈, 「타클라마칸 배달 사고」, 『타워』, 오멜라스, 2009. [본문으로]