디지털 빅테크 시대의 시스템 에러

김장회

대한지방행정공제회 이사장, 전 충북도 행정부지사

인류는 지속해서 기술을 발전시켜 왔고 새로운 기술은 인간의 삶을 변화시켜 왔다. 인류의 역사는 곧 기술 발전의 역사라고 해도 과언이 아니다. 현재 큰 기술변화 중 하나는 삶의 모든 측면을 바꾸고 있는 인공지능(AI)을 포함한 디지털 기술의 물결이다. 디지털 기술이 발달하면서 인류의 삶은 더욱 편리해졌지만 이로 인한 범죄 등을 비롯한 각종 역기능이 발생하고 있다. 디지털 기술의 접근 용이성, 익명성, 가상성, 모방성, 경로 의존성은 기술의 악용을 더욱 가속화하고 있다. 딥페이크, 디지털 격차 문제, 게임 중독, 사이버폭력, 디지털 치매, 디지털 테러 등이 디지털 역기능으로 거론된다.

전문가들은 AI 기술을 통해 얼굴과 음성을 합성하는 '딥페이크'를 통해 주변 지인의 얼굴과 목소리를 실시간으로 합성하고, 이를 보이스피싱 등의 범죄에 활용할 수 있다는 우려를 한다. 실제 할리우드 배우 등 유명인은 물론 일반인의 얼굴을 합성한 영상 등이 유포되어 사회적 문제가 되고 있다는 보도를 종종 접하게 된다. AI 기술이 빠르게 진화하면서 보다 정교한 수준의 허위 정보 생산과 편향성의 문제점이 나타나는데 이는 AI가 인터넷상의 방대한 자료를 학습하는 과정에서 왜곡된 정보나 편견, 잘못된 정보까지 습득하는 것이 주요 원인이다.

아울러 인터넷 생태계에서는 비슷한 사람들과 교류하며 기존의 신념을 더욱 강화하는 반향실(echo chamber) 현상과 자신의 관심사에 맞춘 편향된 정보에 갇히게 되는 필터 버블(filter bubble)현상이 강화되고 사회 내 혐오와 편협을 더욱 가속함으로써 정치적으로도 새로운 우려를 자아내기도 한다.

보통 인간이 만든 새로운 기술은 통상 법률과 같이 우리가 살아가는 윤리적 법적 사회적 환경을 형성한다. 자유로이 다니던 거리에 새롭게 설치된 신호등은 과거에 자유롭게 다닐 수 있던 행동을 신호에 따라 건너거나 건너지 못하도록 규율하는 효력을 발휘하게 된다. 또한 새로운 기술은 자원을 새롭게 활용하는 방식을 포함하게 되고 이러한 기술은 소수에게 귀속되어 엄청난 수익을 가져다주는 불평등의 문제도 제기된다. 문제는 이러한 상황에서도 우리 자신을 어느 정도 기술의 세계에 노출하지 않고는 어떤 형태의 디지털 행동에도 참여하기 어렵다는 것이다.

디지털 시대의 엄청난 힘과 잠재력이 사회 전체의 이익을 위해 쓰일 수 있도록 보장할 책임은 누구에게 있는가· 시장은 우리에게 이익을 주고 원하는 디지털 기술을 전달하고 유용하지 못한 것은 걸러냄으로써 효율성을 중시하지만, 정의, 공정성, 사생활, 자율성, 평등, 민주주의 등은 훼손되기 쉽다. 바람직하다고 생각하는 결과를 위해 어떤 시스템을 도입하고 운영할 것인지는 바로 우리의 손에 달려있다. 우리는 민주주의가 최악의 결과를 피할 수 있는 우수한 제도라는 오래된 믿음을 가지고 있다. 따라서 새로운 기술에 대한 우려를 해소하는 방법은 반드시 민주적이어야 하며 시민이 적극적으로 참여해야 한다는 것을 알고 있다. 민주주의 제도와 시민에게 기술을 관리할 수 있는 권한을 부여해야 하고 빅테크가 혼란을 주지 못하도록 정부의 광범위한 조치가 필요하다. 이러한 규제는 지속 가능한 사회발전과 시민의 권한을 더욱 강화하는 파트너로 인식되어야 한다.

21세기에 인간이 된다는 것, 데이터의 주체가 된다는 것에 대한 많은 고민이 필요한 것 같다. 우리는 디지털 시대에 기술에 의해 지배당하지 않고 인간이 기술을 통제하기 위해 시스템상의 에러를 치유하고 재부팅을 해야 하는 상황을 마주하고 있다.