종이클립 우화

한범덕

미래과학연구원 고문

영국 옥스퍼드대학 닉 보스트롬 교수가 소셜미디어서비스(SNS)에 대한 가설을 종이클립 만드는 기계로 비유를 하였습니다.

"종이클립을 만들도록 설계하면서 정작 멈추는 스위치를 빠뜨려 처음 공급한 재료를 다 소모한 후 손 닿는 곳의 물질은 무엇이든 종이클립 만드는데 이용한다면, 이 기계는 지구 전체를 종이클립 제조시설로 바꾸고, 우주로 확대하게 할 것이다."

결국 디지털 세계에서 제작되는 기계는 멈추는 것이 불가능한 강력한 지적기계가 될 것이란 경각의 말입니다. 21세기 들어 디지털 세상은 AI라는 한층 더 고도화된 지적기계가 활용되면서 AI 빅테크 회사의 힘은 우리의 상상력을 넘어서게 되었습니다.

그런데 이런 힘이 민주적이지 않은 공권력과 만나게 될 경우, 어떤 문제가 나타날까 하는 우려 속에서 종이클립 만드는 기계의 우화가 나오게 된 것입니다.

가까이 미얀마 사례입니다. 5천300만 인구를 가진 이 나라는 2천200만 페이스북 가입자가 있는데 페이스북 담당 직원은 버마어(語)만을 알고 있는 단 1명뿐이었습니다. 미얀마는 135개 민족이 100개 이상의 언어를 사용하는 나라입니다. 이런 나라에서 2012년 당시 대통령 측근이 페이스북에 이슬람교 로힝야족이 무장을 하고 국경을 넘었다는 가짜뉴스를 실었고, 그 이후에도 로힝야족은 극단주의자라는 증오와 선동의 글을 계속 올렸습니다. 일부 인권단체에서 우려를 제기했지만 무시되었습니다. 2019년 페이스북에서 반응을 보여 선동, 증오를 못하도록 하였지만 오히려 유해한 콘텐츠를 인기 있는 콘텐츠로 인식했습니다. 이 때문에 무슬림 살해 등 증오범죄가 계속 일어나고, 페이스북에 올라와도 2천200만 사용자를 의식한 페이스북은 미얀마 군부의 눈치만 보았습니다.

원래 SNS는 2001년 필리핀 에스트라다 정부를 무너뜨릴 때, 10년 뒤 아랍의 봄으로 독재자들을 무너뜨릴 때는 저항세력의 편에서 큰 역할을 하였습니다. 그러나 러시아, 이란과 같은 비민주적 정권에서는 반체제인사의 추적, 처벌을 위하여 디지털 도구가 사용되면서 변질되었습니다.

그중 제일 앞선 나라는 중국입니다.

2009년 신장에서 일어난 폭동으로 1천100만 이상의 주민을 DNA로 얼굴인식과 사람추적 작업을 마쳤습니다. 이 과정에서 화웨이, 메그비, 센스타임 등 AI 기업들이 정부에 협조하였습니다.

중국의 검열제도인 '만리방화벽'을 보면, 인터넷이 들어온 1994년부터 시작하여 2002년 국민들이 보고 듣는 내용의 통제체제를 구축한 후 계속 증강시켜오고 있습니다. 이러한 통제로 중국은 빅테크인 구글, 유튜브, 페이스북, 인스타그램 등을 차단하고, 세계적 언론매체 뉴욕타임스, CNN, BBC, 가디언, 월 스트리트 저널 등은 막아 놓고 있습니다.

이런 점에서 문제는 AI 빅테크가 저항세력보다 진압세력 쪽에서 힘을 발휘한다는 점입니다. 그러니까 중국의 이러한 체계가 수많은 비민주적 국가로 수출된다는 것입니다. 바로 2024년 노벨경제학상을 받은 대런 아세모글루와 사이먼 존슨이 저술한 '권력과 진보'에서 우려하고 있습니다.

개인의 의사를 모두에게 밝히고 소통하는 SNS가 개인의 권리를 오히려 억압하는 선동과 가짜뉴스를 만들어내고, 그러한 체제의 도구로만 사용된다면 어떻게 되겠습니까?

디지털 기술이 힘센 쪽에만 서게 된다면 문제는 걷잡을 수 없게 됩니다. 결국 디지털 기술이 민주주의가 필요할 때 민주주의를 훼손하게 되는 것입니다. 그런 기술에 의하여 자신의 소셜미디어에 묻힐 경우, 감정적인 목소리만 크게 들리는 현실을 깨달아야 할 것입니다.

이제 얼마 남지 않은 대통령선거, 우리 국민은 선동과 가짜뉴스에서 벗어나 올바른 선택을 할 수 있도록 하여야 할 것입니다. 성숙된 우리는 그렇게 할 것이라고 확신합니다.