“만일 다수의 사람에게 일어나는 일을 모두 파악할 수 있는, 그리고 우리가 원하는 방식으로 이끌 수 있도록 그들을 에워쌀 수 있는, 그들의 행동과 (인적)관계, 생활환경 전체를 확인하고 그 어느 것도 우리의 감시에서 벗어나거나 의도에 어긋나지 않도록 할 수 있는 수단이 있다면, 이것은 국가가 여러 주요 목적에 사용할 수 있는 정말 유용하고 효력 있는 도구임이 틀림없다.”
제러미 벤담(Jeremy Bentham)의 ‘파놉티콘(Panopticon, 판옵티콘)’에 대한 설명이다. 파놉티콘의 어원은 그리스어로 ‘모두’를 뜻하는 ‘pan’과 ‘본다’를 뜻하는 ‘opticon’을 합성한 것으로, 벤담이 소수의 감시자가 모든 수용자를 자신을 드러내지 않고 감시할 수 있는 형태의 감옥을 제안하면서 이 말을 창안했다.
4차 산업혁명 시대에 접어들면서, 일각에서는 ‘디지털-파놉티콘’이 생길 것이라는 우려의 목소리가 항상 존재해왔으며, 최근에 그 우려는 이미 현실에서 일어나고 있다.
중국 정부는 ‘톈왕(天網, 하늘의 그물)’이라 불리는 범죄 용의자 추적 시스템을 개발했다. 톈왕은 화웨이(HUAWEI), 텐스트(TENCENT) 등의 기업이 보유한 데이터와 실시간으로 돌아가는 6억 대의 감시카메라, 얼굴 인식 AI가 결합한 거의 완벽한 감시 체계이다. 문제는 민간 기업이 수집하고 분석한 데이터를 정부가 영장 없이 활용한다는 점이다.
중국 정부는 이러한 톈왕을 활용하여 사회신용체계(Corporate Social Credit System: CSCS)를 구축하였다. 사회신용체계(CSCS)는 시민들의 사회 신용을 점수화하기 위해 톈왕에서 수집한 데이터를 이용하여 좋은 인민과 나쁜 인민을 구분하고 계급을 부여한다. 신용 평가를 위해 수집되는 데이터의 범위는 일반적인 소비 내역 등 다양한 종류의 데이터를 망라한다.
정상조 교수의 『인공지능, 법에게 미래를 묻다』에 소개된 사례를 살피건대, 부정적인 평가를 받는 활동에는 성매매나 교통 법규 위반 등이 포함된다. 이동 중인 기차 안에서 식사했다거나 쓰레기 분리수거를 제대로 하지 않았다거나 하는 가벼운 사건 역시 부정적인 점수를 받는다. 반대로 긍정적인 점수를 받기 위해서는 헌혈이나 봉사활동 등 선행을 해야 한다.
톈왕을 이용한 사회신용체계가 무서운 이유는 그것이 ‘정부’ 주도로 활용되고 있다는 사실이다. 이 체계에서 부정적인 평가를 받으면 주거지 근처 버스정류장과 극장 등에 이름이 게시되고, 입학이나 취직 같은 일상생활에서 불이익이 발생하기도 한다. 심지어는 부정적 평가가 쌓여 블랙리스트에 오른 사람은 이동권이 제한될 수 있다. 실제로 항공권 구매를 거절당한 사례가 2,600만 건, 탑승권 구매를 거절당한 사례가 596만 건에 달하는 것이 그 증거이다.
이 블랙리스트에 벗어나는 데 2년 이상 걸리는데, 선행을 많이 하면 조금 더 빨리 벗어날 수 있다. 반대로 화이트리스트도 있는데, 여기에 오른 사람들은 취직 때 가산점을 받고 병원이나 관공서에서 대기 시간 없이 서비스를 받을 수 있는 등 여러 혜택을 누릴 수 있다.
20세기 중엽, 마오쩌둥(毛澤東) 전(前) 주석은 중국 인민이 상호 감시하고 신고하는 분위기를 조성해 문화대혁명을 이루려고 하였다. 상술한 중국의 톈왕을 이용한 ‘사회신용체계(CSCS)’는 문화대혁명 시대의 감시와 신고 체계를 4차 산업혁명 시대에 적합하며 상당히 효율적인 체계로 부활시킨 것으로 보인다.
우리는 수많은 데이터를 생성하며 활용한다. 그런데 이러한 데이터, 특히 개인정보를 국가가 중장집중형 수집·활용 모델을 표방한다면, 국가는 개개인을 면밀하게 감시할 수 있게 될 것이다. 그렇다면 헌법상 기본권, 특히 국가 권력의 간섭·개입을 받지 않는 권리(자유권)가 침해될 가능성이 현저히 크다.
우리나라도 코로나19 팬데믹을 겪으며 국가에 수많은 개인정보를 제공하였다. 국가가 국민의 생명과 재산을 보호하는 것은 가장 기본적인 국가의 의무이지만, 국가의 모든 행위를 신뢰하는 것은 위험하다.
국가가 개개인을 통제할 수 있는 데이터 등 인프라를 가지고 있는 상황이라면, 그만큼 국민이 국가폭력에 노출될 가능성이 증가하기 때문이다. 국가에 대한 국민의 권리를 지키기 위해서는 분산형 데이터 모델에 관한 기술적 · 규범적 연구가 계속되어야 할 것이다.