우리는 'AI 사기' 감당할 수 있을까?

페이크 전성시대

AI(인공지능) 기술이 빠르게 발전하며 다양한 영역에서 의미있는 성과가 도출되고 있다. 아직 강 인공지능 시대는 멀었다는 것이 중론이지만 최소한 약 인공지능의 초입에서 특정 영역에 집중한 인공지능 기술력은 상당부분 진척됐다는 것이 중론이다. 최근 숀 레이 AWS 아태지역 디벨로퍼 릴레이션 총괄은 국내 테크 세미나를 통해 "영화에 나오는 인공지능 기술은 먼 미래의 이야기"라면서도 "바둑의 알파고 등 특정 영역에 집중한 인공지능 기술은 상당부분 발전을 거듭하고 있다"고 말했다.

특정 영역에서의 인공지능 기술력이 조금씩 의미있는 행보를 거듭하는 가운데, 일각에서는 인공지능 사기꾼 주의보에 주목하고 있다. 여기서 말하는 사기꾼은 부정적인 의미를 뜻하는 경우도 있으나 너무나 정교한 허구를 보여주는 인공지능 기술력의 강점을 뜻하기도 한다.

딥누드부터 욕하는 오바마까지

15일 업계에 따르면 컴퓨터 프로그램 소스 공유 깃허브가 딥페이크 포르노 콘텐츠를 대상으로 전쟁을 선포했다. 실제로 마더보드에 따르면 깃허브는 외설적인 콘텐츠를 필터링한다는 취지로 인공지능 등 관련 기술을 통해 포르노 콘텐츠를 제작하는 앱의 소스 공유를 차단했다. 이는 외설적인 콘텐츠의 무차별 허용을 지양해야 한다는 기본적인 취지 외에도 기술로 포르노를 창조하는 기술이 얼마나 위험수위에 이르렀는지도 잘 보여준다.

딥누드 논란에 집중할 필요가 있다. 딥누드는 인공지능 기술을 이용해 멀쩡한 사진을 누드사진으로 바꿔버리는 앱이며, 남성 사진에는 반응하지 않고 여성 사진에만 반응해 논란이 됐다. 등산하며 찍은 일반적인 여성의 사진을 백주대낮 사람들이 오가는 등산로에서 누드차림의 여성 사진으로 바꿔버리기 때문이다.

심각한 일이다. 연인과 헤어진 후 나쁜 마음을 먹고 리벤지 포르노를 공개하는 미친 세상에서, 딥누드는 멀쩡한 사진을 포르노로 둔갑시켜 악용될 여지가 크기 때문이다. 비판이 쏟아지자 결국 딥누드 제작자들은 최근 앱 서비스를 중단했다.

딥누드처럼 범죄는 아니지만, 인공지능 사기에 가까운 기술력은 인공지능 사진 사이트인 Thispersondoesnotexist(이사람은존재하지않는다)도 유명하다. 우버의 소프트웨어 엔지니어인 필립 왕이 지난 2월 공개했으며 인공지능 기술을 통해 현실에는 존재하지 않은 사람을 보여준다. 구동 방식은 스타일 GAN(Style GAN, Generative Adversarial Network)로 가능하다. 가짜 이미지를 만드는 쪽과 이를 검증하는 쪽이 연속적으로 데이터를 제출, 검증하며 특정 이미지를 만들어내는 방식이다.

지난해 11월에는 중국에서 가짜 아나운서가 나타났다. 당시 중국 관영 통신사인 신화통신은 세계 최초로 인공지능 남성 아나운서를 공개했으며, 올해 초에는 여성 아나운서도 공개했다. 공개된 영상을 보면 현실에 존재하지 않는 인공지능 아나운서들이 능숙하게 멘트를 해 놀라움을 선사한다. 자연스러운 말투와 사람 특유의 호흡 관리 등은 진짜 사람과 다를 것이 없다.

미국에서도 인공지능 사기가 등장했다. 버락 오바마 전 대통령이 영상에 등장해 도널드 트럼프 현 대통령을 원색적으로 비난하는 동영상이 발견된 가운데, 해당 영상이 인공지능으로 만든 가짜로 판명났기 때문이다. 할리우드의 영화 제작자인 조던 필은 인공지능 기술을 이용해 버락 오바마 전 대통령으로 영상에 등장, 비속어까지 쓰며 트럼프 대통령을 비난했다. 미 하원 정보위원회는 지난 6월 14일 이 문제를 두고 청문회까지 열었다.

국내에도 이 분야의 강자가 있다. 최근 국내 인공지능 스타트업인 머니브레인은 유튜브를 통해 한 여성 아나운서를 등장시켰다. 해당 여성 아나운서는 편안한 말투로 머니브레인의 기술력을 소개했다. 문재인 대통령도 나섰다. 문 대통령은 특유의 차분한 목소리와 어투로 머니브레인의 기술력을 자랑했다. 머니브레인이 공개한 해당 동영상은 진짜가 아니다. 얼굴의 특징 추출과 다양한 표현을 결합해 인공지능 영상을 제작했기 때문이다. 머니브레인의 기술력은 미국과 중국 등 일부 국가에서만 성공한 고난도의 기술력이며, 일부 지점에서는 더 높은 기술력을 자랑하고 있다.

인공지능 사기는 이미지와 동영상에만 국한된 것이 아니다.

오픈AI의 GPT-2가 눈길을 끈다. 약간의 콘텐츠가 있으면 순식간에 인공지능 기술로 이와 관련된 새로운 창작물을 만들어낸다. 소설은 물론 과제, 심지어 신문기사도 만든다는 후문이다. 창작자의 고민을 덜어주는 인공지능이지만, 해당 인공지능의 API가 공개라도 될 경우 소위 가짜뉴스 공장이 설립될 수 있다. 오픈AI는 이를 우려해 GPT-2의 API를 공개하지 않기로 했다. 지난 3월 열린 SK텔레콤 트루이노베이션이 주최 및 주관한 세상을 깨우는 AI, 누구입니까 세미나에서 정지훈 경희 사이버대학교 미디어영상홍보전공 교수는 "인공지능 기술력은 우리의 상상보다 빠르게 발전하고 있다"며 "인공지능과 인간의 콜라보에 더 관심을 기울여야 한다"고 말했다.

일론 머스크 테슬라 최고경영자(CEO) 등이 주도하는 오픈AI에도 주목했다. 정 교수는 "오픈AI의 벌트(BERT)는 인간 이상의 자연어 처리 능력을 보여주는 것으로 확인됐다"면서 "새로운 기술이라고 보기는 어렵고, 기존 기술의 업그레이드로 볼 수 있는데 수준 이상의 자연어 처리 기술을 보여줬다"고 평가했다.

인공지능 기술..진짜와 가짜가 혼재된다

가트너 수석 리서치 부사장인 크리스 하워드(Chris Howard)는 “4년 전에는 인공지능 구현이 흔치 않았으며, 인공지능을 도입했거나 곧 도입할 예정이라고 답한 이들은 전체 응답자의 10%에 불과했다”면서 “2019년 설문조사에서는 그 수가 37%로 크게 늘었다. 4년 만에 270%나 증가한 것”이라고 말했다.

아직 인공지능 시대가 만개하지 않았으나, 일정정도의 수준에는 도달했다는 분석이다. 크리스 하워드 수석 리서치 부사장은 “복잡한 업무를 완전히 대신할 일반적인 인공지능은 아직 먼 이야기지만, 가트너가 ‘증강 지능(augmented intelligence)’이라고 부르는 인공지능 증강 작업 및 의사 결정학(decision science)의 차원에는 이미 접어들었다”고 말했다.

그 연장선에서 인공지능과 현실의 경계가 무너지고 있다. 앞으로는 더욱 교묘하고 강력한 인공지능 기술이 다양한 영역에서 활동할 것으로 예상되는 가운데, 국내에서도 머니브레인처럼 열리는 시장에 진입하는 기술기업들이 많아져야 한다는 주장이 나온다. 나아가 인공지능이 현실과 가상을 넘나드는 과정에서 벌어지는 부작용에도 집중, 이에 대비해야 한다는 주장에도 무게가 실리고 있다.

최진홍 기자