인공지능이 무서워지는 순간은?

공격, 감시, 그리고 초월

글로벌 차량 온디맨드 플랫폼 우버의 소프트웨어 엔지니어인 필립 왕은 지난 13일(현지시간) 인공지능 사진 사이트인 Thispersondoesnotexist(이사람은존재하지않는다)를 개설했다. 해당 사이트에 접속하면 인물 사진이 무작위로 등장하는데, 모두 인공지능이 생성한 가짜 이미지다.

필립 왕이 공개한 Thispersondoesnotexist의 구동 방식은 스타일 GAN(Style GAN, Generative Adversarial Network)로 가능하다. 가짜 이미지를 만드는 쪽과 이를 검증하는 쪽이 연속적으로 데이터를 제출, 검증하며 특정 이미지를 만들어내는 방식이다. 이를 바탕으로 현실세계에는 존재하지 않는 사람의 사진을 창조하는 셈이다.

인공지능 시대의 두려움

인공지능 시대가 도래하고 있음은 누구도 부정하기 어렵다. 시장조사업체 가트너는 2019 CIO 서베이(2019 CIO Survey)의 결과를 발표하며 인공지능을 도입한 기업의 수는 지난 4년 간 270% 증가했으며, 작년 한 해 동안 세 배나 늘어났다고 1월 21일 발표했다.

가트너 수석 리서치 부사장인 크리스 하워드(Chris Howard)는 “4년 전에는 인공지능 구현이 흔치 않았으며, 인공지능을 도입했거나 곧 도입할 예정이라고 답한 이들은 전체 응답자의 10%에 불과했다”면서 “2019년 설문조사에서는 그 수가 37%로 크게 늘었다. 4년 만에 270%나 증가한 것”이라고 말했다.

아직 인공지능 시대가 만개하지 않았으나, 일정정도의 수준에는 도달했다는 분석이다. 크리스 하워드 수석 리서치 부사장은 “복잡한 업무를 완전히 대신할 일반적인 인공지능은 아직 먼 이야기지만, 가트너가 ‘증강 지능(augmented intelligence)’이라고 부르는 인공지능 증강 작업 및 의사 결정학(decision science)의 차원에는 이미 접어들었다”고 말했다.

글로벌 ICT 업계가 모바일에서 초연결, 인공지능 시대로 넘어오며 그 후폭풍에도 많은 관심이 집중되고 있다. 인공지능이 추후 경제와 산업은 물론 인류의 모든 영역에 큰 영향력을 발휘할 것으로 예상되는 가운데 인공지능 포비아(공포증)에 대한 실체적 위협도 커지고 있다.

인공지능 포비아에서 가장 많이 회자되는 것은 일자리다. 실제로 시장조사업체 가트너는 인공지능이 2020년까지 무려 180만개의 일자리를 없앨 것이라고 경고했다. 다만 새롭게 생성되는 일자리를 230만개로 예상, 인공지능과 일자리의 미래를 크게 부정적으로 보지 않는 분위기도 있다.

인공지능의 윤리 문제도 언급된다. 대표적인 분야가 군수 분야다. 사람과 사람이 싸우는 전쟁에서는 의외의 인류애가 펼쳐질 가능성도 있으나, 인공지능 시대에는 기대하기 어렵다. 인공지능은 적의 말살이라는 목표만 정하고 싸우기 때문에, 이 과정에서 공포스러운 미래가 펼쳐질 것이라는 주장도 나온다.

이를 둘러싼 논란 중 하나가 구글 프로젝트 메이븐이다. 국방부의 인공지능 무기 시스템으로 알려졌으며, 구글은 1000만달러의 계약금을 받고 인공지능 기술을 제공할 방침을 세웠다. 인공지능이 당초 구글은 프로젝트 메이븐에 활용되는 자사 인공지능 기술력은 살상무기 개발과 관련이 없으며 매출에서 차지하는 비중도 미비하다고 설명했으나, 내부 직원들의 반발이 심해지자 결국 손을 떼기로 결정했다. 선다 피차이 CEO는 "무기 개발에 인공지능 기술을 제공하지 않고 인권을 침해하지 않도록 할 것이며 인공지능 자동화 단계에서 인종과 성, 정치적 차별이 개입되지 않도록 하겠다"고 강조했다.

자율주행차 분야도 비슷한 고민이 있다. 추후 인공지능이 운전하는 자율주행차 시대가 도래할 경우 사고가 발생했을 때의 대처 등이 중요한 논쟁으로 부상할 가능성이 높다. 미국 도로교통안전국이 지난 2016년 도로주행법에서 운전자 개념을 확대해 소프트웨어를 운전사에 포함신 대목도 이러한 고민을 해결하기 위한 포석이다.

인공지능 포비아의 근거를 미래가 아닌 현실에서 찾자면 조작의 관점도 중요하게 살펴야 한다. Thispersondoesnotexist(이사람은존재하지않는다)의 사례처럼 인공지능은 강력한 기술력으로 현실에 존재하지 않는 새로운 것을 창조하는 한편, 일종의 조작에도 능하다는 점이 입증됐다.

CNN은 지난 18일 테슬라의 일론 머스크와 마이크로소프트가 후원하는 비영리 연구단체 오픈AI가 창조한 인공지능 GPT-2를 집중 보도했다. GPT-2는 약간의 콘텐츠가 있으면 순식간에 이와 관련된 새로운 창작물을 만들어낸다. 소설은 물론 과제, 심지어 신문기사도 만든다는 후문이다. 만약 누군가 "5.18 광주 민주화 운동 당시 북한군이 있었다"는 가짜글을 만들어 GPT-2에 입력하면, 인공지능은 순식간에 김일성 주석의 지시와 이를 둘러싼 가공의 이야기를 그럴싸하게 만들어 낸다. 창작자의 고민을 덜어주는 인공지능이지만, 해당 인공지능의 API가 공개라도 될 경우 소위 가짜뉴스 공장이 설립될 수 있다. 오픈AI는 이를 우려해 GPT-2의 API를 공개하지 않기로 했다.

최근 페이스북과 트위터, 구글 유튜브 등에서 가짜뉴스가 전방위적으로 창조되고 있는 가운데 인공지능이 해당 영역에서 위력을 발휘할 경우 그 후폭풍은 상당할 것으로 보인다.

현재의 가장 큰 고민...감시

인공지능을 두고 벌어지는 다양한 공포 중, 가장 현실에 가까운 위협은 감시다. 기존 인류가 창조한 감시 시스템의 한계를 넘어버리는 가공할 위력을 보여주기 때문이다. 이 분야의 최고는 중국이다.

하미 악소이 터키 외무부 대변인은 지난 9일 이례적으로 중국 집단 수용소의 실태를 맹비난했다. 그는 "현재 위구르족 100만명 이상이 집단 수용소에 노출되어 있다"면서 "즉각 폐쇄해야 할 것"이라고 말했다.

중국 내 소수민족인 위구르족 이슈는 미국을 중심으로 국제사회가 줄기차게 지적하는 대목이다. 여기에는 중국이 위구르족을 비롯한 소수민족을 비인간적으로 탄압하고 있다는 전제가 깔린다. 중국은 사실이 아니라는 입장이지만, 위구르족과 뿌리가 같은 터키 입장에서 중국의 소수민족 탄압 혐의는 범 민족적 아젠다로 여겨지고 있다.

중국이 위구르족을 추적하고 감시하는 일에 인공지능을 적극 활용하고 있다는 점이 최근 알려져 논란은 더욱 증폭되고 있다. 로이터는 지난 17일 중국 정부가 신장 위구르 지역에서 최소 260만명의 주민을 24시간 추적 감시하고 있으며, 여기에는 중국 광동성에 위치한 IT 기업 센스네츠 테크놀로지가 개입되어 있다고 폭로했다. 중국 당국이 현지 주민의 생체 정보를 확보해 위치지리정보와 결합, 실시간 동선을 추적했으며 이 과정에서 센스네츠 테크놀로지가 빅데이터와 인공지능 기술로 지원하고 있다는 주장이다.

중국은 글로벌 인공지능 시대에서도 최강자로 부상하고 있다. 한국무역협회는 지난 10일 스타트업 사례를 통해 본 2018년 중국 AI 시장 트렌드 보고서를 통해 현지 인공지능 인재는 1만8232명으로 2만8536명의 미국 다음으로 많았으며, 2664명의 한국보다 7배 많다고 밝혔다.

중국은 이러한 인공지능 기술력으로 천망이라는 범죄자 식별 네트워크도 가동하고 있다. 공안의 웨어러블 기기와 전역의 CCTV를 가동해 인공지능 안면인식으로 일상생활을 감시해 범죄자를 잡아내는 방식이다. 지난해 12월 말 홍콩의 유명 가수인 장학우가 콘서트를 연 가운데 공안은 해당 기간 무려 22명의 수배자를 잡았으며, 이들은 모두 공연을 보러 왔다가 당국의 인공지능 기술에 덜미를 잡힌 것으로 알려졌다.

중국만 범죄자 체포에 인공지능을 사용하는 것은 아니다. 1994년 미국 뉴욕경찰이 도입한 콤프스탯은 대표적인 범죄예방 시스템이다. 과거의 범죄를 참고해 현재 범죄가 일어날 수 있는 시간과 장소를 예측하는 기술이다.

IBM의 빅데이터 플랫폼 ‘i2 캅링크’ 역시 범죄가 벌어질 가능성이 높은 장소를 지목, 범죄예방에 도움을 주고 있으며 ‘샷포스터’라는 프로그램은 건물 지붕에 센서를 장치해 총 소리가 난 지점을 경찰에 알리는 한편 시간과 장소를 데이터로 저장해 총기사고 예방에 큰 역할을 하고 있다.

문제는 이 과정에서 불거지는 사생활 침해 등의 논란이다. 또 모 데이터가 오염될 경우 인공지능의 결과물 자체가 전혀 달라지며, 여기에 빅브라더 시대를 원하는 독재권력의 등장에 인공지능이 힘을 실어주고 있다는 비판도 나오고 있다.

인공지능과 종교의 관계도 추후 논쟁이 예상된다. 강 인공지능 시대, 스스로 인격을 갖춘 인공지능이 종교를 믿거나 창시할 경우 인류는 어떻게 대응해야 하는가? 구글 출신 엔지니어 앤서니 레반도브스키(Anthony Levandowski)가 ‘미래의 길(Way of the Future)’이라는 교회를 설립해 인공지능의 신격화를 추구하며 이와 관련된 논란은 더욱 커지고 있다.

최진홍 기자