인공지능(AI, artificial intelligence)의 발전은 일상의 자동화를 촉진하고 있다. AI 알고리즘은 검색어와 소비를 분석해 취향에 맞는 콘텐츠나 상품을 추천해준다. 사람이 하나하나 확인해야 하는 작업을 대신해주거나 문서를 요약해주는 등 업무 효율을 높여주기도 한다. 인간의 삶을 편하게 해줄 수 있는 개인 비서와도 같은 이 도구는 동시에 억압을 위해 사용되기도 한다.

이정배 한반도청년미래포럼

중국은 이미 사회 통제 수단으로 AI를 활용하고 있다. CCTV 네트워크를 통해 시민의 얼굴을 분석하고 잘못된 행동을 할 경우 자동으로 벌금을 부과한다. 인터넷상에서는 정부에 대한 비판적인 이야기가 검열되고 있다. 심지어는 바이두, 알리바바와 같은 민간 기업의 AI가 중국 정부에 대한 민감한 질문에 어떻게 답하는지도 관여한다.

북한은 중국과 긴밀한 관계를 유지해 왔던 만큼, 중국의 기술적 성과를 답습해 자국의 통제 체계를 강화할 가능성이 크다. CCTV와 같은 대규모 인프라 구축은 어렵더라도, 이미 보급된 스마트폰을 활용한 감시 체계는 확장할 수 있다. 이미 스마트폰을 통한 감시 체계가 일부 구축되어 있기 때문이다.

북한은 국가에서 검증된 스마트폰만 유통한다. 여기에는 감시 프로그램이 설치되어져 있는 것으로 알려져 있다. 무작위로 캡쳐 된 정보를 일일이 확인하는 방식을 택한 것으로 보인다. 여기에 AI 기술까지 탑재된다면 북한 당국의 감시망을 피하기 어려워진다. 사람이 직접 확인해야 하는 지금과 달리 AI가 모든 정보를 실시간으로 분석할 수 있게 되기 때문이다.

북한이 이러한 고도화된 기술력을 확보할 수 있을지 의문이 들 수 있다. 그러나 북한은 이미 해커를 양성하고 블록체인 생태계를 악용해 핵무기 개발비용을 충당한 전적이 있다. 또한 AI 기술은 일부 오픈소스 형식으로 공개되어 있어 상대적으로 쉽게 접근할 수 있다. 실제로 최근 중국은 메타(前 페이스북)의 AI 모델을 활용해 군사용 AI 모델을 개발한 바 있다.

결국 AI 기반 통제 시스템 구축에 필요한 핵심 요소는 AI가 학습할 수 있는 라벨링(labeling) 된 데이터다. 수많은 AI 기업은 데이터를 수집하고 라벨링하는 작업에 큰 비용을 투자한다. 학습된 데이터의 질과 양이 AI 성능을 결정하는 중요한 요소가 되기 때문이다. 북한이 충분한 데이터를 확보할 수 있다면, AI 기반 감시 시스템 구축이 충분히 가능할 수 있음을 시사한다.

북한은 강력한 국가 동원 체계와 저비용 노동력을 활용해 데이터 라벨링 작업을 쉽게 수행할 수 있다. 물론 데이터 센터와 같은 기본 인프라 구축에는 상당한 시간과 비용이 필요할 것이다. 그러나 국가 차원에서 AI 기반 통제 시스템을 목표로 설정한다면 생각보다 빠르게 추진될 가능성도 배제할 수 없다.

AI 기반 정보 및 음성인식 기술의 도입은 북한 주민의 인권 상황을 더욱 악화시킬 것이다. 일상 대화와 행동이 철저히 감시되고 외부 정보 유입이 차단되면서, 북한은 기술적 감시와 통제의 강도를 한층 더 높일 수 있다. 이러한 AI 감시체계는 사생활과 기본적인 자유를 심각하게 침해하며, 주민들이 고립되는 결과를 초래할 것이다.

인권은 외친다고 개선되지 않는다. 사람들에게 북한의 실상과 문제를 알려도 북한 주민의 삶은 그대로다. 법적 제재와 국제적 압력이 가해져도 중국이나 러시아 같은 국가의 존재가 숨통을 틔워준다. 따라서 AI 기반 통제 시스템이 완성되기 전에, 북한 주민들이 외부 정보를 통해 실상을 자각하고 더 넓은 세상과 접촉할 수 있도록 지원하는 정보 전달 전략이 절실하다. 북한에 AI가 도입된다면 주민들의 인권은 그 끝을 보게 될지 모르기 때문이다.