"빅브러더 현실로?"...中, AI 발전할수록 '디지털 감옥'에 갇힌다

#중국인 쿵(孔)씨는 지난달 충칭(重慶)으로 출장을 가야 하는데 고속열차나 비행기를 타고 갈 수 없어 장장 30시간 일반 열차를 타고 갔다. 쿵씨는 악성 채무자, 이른바 '라오라이(老賴)'다. 중국 당국의 신용불량자 블랙리스트에 올라 비행기나 고속열차를 맘대로 이용할 수 없다. 그는 "비행기로 3시간, 고속열차로 12시간 걸리는 거리이지만 어쩔 수 없이 일반 열차를 탔다"고 말했다.

#베이징에 사는 천(陳)씨는 이달부터 전기료 감면 혜택은 물론, 은행 대출 우대 서비스도 받을 예정이다. 천씨는 신용우수자다. 중국 당국은 사회 신용체계에서 고득점을 받은 사람을 대상으로 다양한 혜택을 제공한다. 그는 "어렸을 때부터 자원봉사 활동은 물론, 헌혈, 기부 등 사회활동을 적극적으로 해왔다"고 전했다. 

중국 정부는 인민은행과 법원 등의 신용기록을 토대로 전 국민과 기업의 신용 등급을 점수화하는 ‘사회적 신용체계 시스템’을 내년까지 구축한다는 방침이다. 중국 정부가 지정한 시한이 1년도 남지 않자 중국은 신용 사회 건설 운동에 박차를 가하고 있다.

◆中 "사회신용 수준 높이겠다"··· 통제 강화 움직임 포착
 

중국국가발전개혁위원회와 인민은행이 공동으로 운영하는 ‘신용중국’ 사이트. [사진=신용중국 웹사이트 캡처]

중국 국무원은 2014년 신용사회 건설을 위한 로드맵인 ‘사회 신용체계 건설 계획 개요’를 발표했다. 개요에는 사회주의 시장경제와 사회 거버넌스 체제에서 신용이 가장 중요하기 때문에 신용우수자를 격려하고 신용불량자는 옥죄는 상벌 시스템을 마련, 사회의 신용 수준을 높이겠다고 명시돼 있다.

관련기사

• ​페이스북, 글로벌정책 강력 규제로 선회…숨은 의미는?
• 中 '시진핑 학습' 포인트 쌓기 열풍…"모자라면 불이익" 논란

신용기록이 좋은 개인이나 기업은 무료 건강검진, 은행 대출 우대 등의 혜택을 누리는 반면, 신용 점수가 낮아 악성채무자로 낙인찍히면 비행기나 고속열차 등 대중교통은 물론, 고급 호텔 숙박, 해외여행 승인, 자녀 사립학교 입학 등에서 제한을 받는다. 지난해 5월부터 중국 12개 주요 도시(난징, 항저우, 웨이하이 등)를 대상으로 시범 시행하고 있다.

중국에서는 최근 들어 사회 통제를 강화하는 움직임이 활발하다. 지난 9일 중국 관영언론인 신경보(新京報)에 따르면 상벌 시스템을 새로 규정하고 대상 기업 및 개인을 추가했다. 새로 규정된 법안 및 대상자는 ‘신용중국(信用中國)’ 사이트에서 볼 수 있다. 중국 당국은 신용 중국 웹사이트를 통해 국민과 기업에 관한 신용정보를 18자리 숫자로 만들어 통합 관리하고 있다. 
 

[자료=신용중국 웹사이트]

신용중국 사이트에는 중국 도시별 신용지수가 공개돼 있다. 중국 당국은 도시별 신용지수를 공개해 신용지수가 높은 도시에는 혜택을 준다. 중국 당국이 도시 간 경쟁심리를 자극하려는 게 아니겠느냐는 풀이가 나온다. 실제로 신용중국 사이트에는 전국 36개 대도시와 262개 중소도시의 신용지수 순위가 공개돼 있다. 지난 2월 대도시의 경우 베이징이 신용지수 86.71로 1위, 상하이(86.44점), 샤먼(86.25점)이 뒤를 이었다. 중소도시에선 장쑤성 쑤저우(蘇州)가 86.15로 1위를 기록했다. 광둥(廣東)성 후이저우(惠州·85.87점), 산둥(山東)성 웨이하이(威海·85.53점)가 각각 2, 3위를 차지했다. 

이뿐 아니라 지난달 중국 국가통계국은 ‘3차 사회신용시스템구축 계획 관련 근로자 신용통계 관리방법’을 발표했다. 현(縣)급 이상의 인민정부도 필요하면 근로자들의 신용기록을 열람할 수 있다고 재규정했다. 성(省)이나 지(地)급 인민정부로 제한됐던 범위를 확대한 것이다.

◆'거대한 디지털 감옥'으로 바뀌는 중국··· 감시 날로 심해져
 

교통법규 위반자를 잡아내는 안면인식 신호등. [사진=인민망]

문제는 인공지능(AI), 안면인식, 빅데이터 분야 등 사회신용시스템 구축을 위한 핵심기술의 진보로 중국 사회의 폐쇄성이 더 강해지고 있다는 점이다.

중국은 AI, 폐쇄회로(CC)TV 등을 통해 14억 인구의 일거수일투족을 감시할 수 있는 ‘거대한 디지털 감옥’을 만들고 있다. 중국 정부는 범죄 예방과 범인 검거 등을 위해 첨단기술을 활용한다고 주장하지만, 현실은 첨단기술이 정부가 원하는 방향으로 중국인들을 유도하는 역할을 하고 있는 것이다.

이에 조지 오웰의 소설 '1984년'의 '빅 브러더'처럼 당국의 감시망이 확대되고 있는 것이 아니냐는 우려가 줄곧 제기돼왔다. 하지만 중국 정부는 이에 아랑곳하지 않고 첨단기술을 사회 통제에 활용하고 관련 데이터를 쌓는 데 집중하고 있는 모양새다.

중국 매체 제일재경(第一財經)에 따르면 최근 안면인식 기술을 적용한 감시카메라가 중국 곳곳에 설치되는 등 사회 통제가 부쩍 강화됐다. 중국 정부는 대도시 위주로 이미 인공지능 안면인식 CCTV 2000만대를 설치한 데 이어 2020년까지 전국에 설치된 2억대의 CCTV를 단일망으로 묶는 사업을 추진한다고 밝혔다.

또 올 초 중국 당국이 신장 위구르족 통제를 위해서 DNA 정보를 수집해온 것으로 알려지며 논란이 일었다. 당시 중국은 무료 건강 검진을 명목으로 위구르족 얼굴을 스캔하는 등 개인 데이터를 수집했지만 사실상 중국 당국에 저항하는 위구르족을 추적하는 데 사용해온 것으로 전해졌다. 

◆사회신용체계 시스템 찬반 논란··· 부정적인 시각 지배적

이에 따라 중국 사회신용체계 시스템에 대한 찬반 논란이 고조되고 있다. 지난 9일 중국 현지매체 펑파이신문(澎湃新聞)에 따르면 중국에서 신용등급이 높으면 혜택을 받고 사회신용체계 시스템을 구축해 중국 사회의 투명성과 신뢰도를 높여 바람직한 신용 사회를 만들 수 있다는 찬성론과, 신용등급이 낮으면 불이익을 받을 수 있고 사회신용체계가 정치적 통제 수단으로 악용될 수 있다는 반박이 맞선다.

해외 전문가들은 대체로 중국이 AI를 이용해 사회신용 등급을 매기는 것을 부정적으로 바라본다. 특히 이들은 중국의 AI, 안면인식, 빅데이터 분야 등 사회신용체계 구축을 위한 핵심기술의 진보가 이루어질수록 중국 당국이 규제망을 더 촘촘히 해 통제를 강화할 것이라고 우려한다.
 

미국의 억만장자 투자자인 조지 소로스는 지난 1월 세계경제포럼(WEF·다보스포럼)에서 “사회신용 제도 등을 고려할 때 시진핑(習近平) 중국 국가주석이 ‘열린 사회의 가장 위험한 적’”이라고 지적했다. 시민들을 억압하는 데 AI를 이용하는 것은 치명적인 위험이라고도 경고했다. 

소로스뿐만 아니라 현재의 AI를 뒷받침한 딥러닝 기술의 선구자인 요슈아 벤지오 캐나다 몬트리올대 교수도 중국이 AI 기술을 감시와 정치적 통제에 활용하는 데 우려를 표명한 바 있다.