[트랜D]점점 진짜 같아지는 '딥페이크' …눈덩이처럼 커지는 부작용

트랜D

인간 삶에 부정적인 영향 미쳐

최근 뉴스에서 자주 접하는 ‘n번방’ 이슈와 함께 보이는 용어가 있습니다. 바로 ‘딥페이크(Deepfake)’입니다. 기존의 영상 합성 기술과는 차원이 다른 인공지능 기반 영상 제작 기술입니다.

딥페이크로 제작된 영상이 늘어나면서 사회적 관심이 커지고 있습니다. 유튜브를 비롯한 영상 플랫폼에서는 딥페이크로 제작한 영상을 쉽게 찾아볼 수 있습니다. 몇몇 영상은 뉴스에서도 다룰 정도로 화제가 됐습니다. 작년에는 '아이언맨 톰 크루즈'라는 제목의 영상이 공개돼 100만 회 이상의 조회를 기록했습니다. 영화 어벤저스의 아이언맨에 톰 크루즈의 얼굴과 목소리를 합성한 영상입니다. 실제 톰 크루즈가 연기하는 것인지 합성인지 구분할 수 없는 정도였습니다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

오바마 전 미국 대통령을 비롯해 미국의 여러 정치인, 유명 영화배우, 가수 등을 영상 속 다른 인물의 얼굴과 합성해 만든 영상은 논란을 불러일으켰습니다. 딥페이크 기술로 만든 영상에 대해 우려의 목소리가 점차 높아지고 있습니다. 딥페이크는 과연 우리 삶에 긍정적인 영향을 줄 기술인지 아니면 많은 문제점을 야기할 기술인지 살펴보겠습니다.

━

딥페이크의 탄생과 기술 발전

딥페이크는 인공지능의 자체 학습 기술인 딥러닝(Deep Learning)에 가짜(Fake)라는 말을 덧붙여 만든 용어입니다. 딥페이크라는 용어를 처음 만들어 낸 인물은 미국 최대 온라인 커뮤니티 레딧의 ‘deefakes’라는 사용자입니다. 그는 레딧에 합성된 영상을 올리면서 활동을 시작했고, 다른 사용자들도 차츰 이와 유사한 애플리케이션을 공개하면서 딥페이크가 널리 알려지기 시작했습니다. 10년 전만 하더라도 가짜 이미지나 합성사진을 생성하기 위해서는 포토샵이나 일러스트레이터와 같은 이미지 편집 프로그램을 사용해야 했습니다. 하지만, 공개된 딥러닝 알고리즘을 이용하면 누구나 쉽게 가짜 이미지 및 동영상을 생성해 낼 수 있습니다.

딥러닝은 인공지능 분야, 특히 머신러닝의 전문 영역입니다. 딥러닝을 활용해 원본 이미지나 영상 속 인물을 다른 사람과 합성하거나 영상과 오디오를 함께 합성하기도 합니다. 딥페이크 관련 대표적인 딥러닝 알고리즘은 생성적 적대 신경망인 GAN(Generative Adversarial Network)입니다. 쉽게 설명하자면, 인공지능끼리 서로 누가 더 똑똑한지 겨루게 시켜서 더 나은 쪽으로 성능을 개선하게 만드는 방법입니다.

GAN은 이미지뿐만 아니라 사운드도 학습해서 원래 목소리와 같은 가짜 목소리를 만들어낼 수도 있습니다. GAN은 이미지, 영상, 음성 합성 등 이미 다양한 분야에서 활용되고 있습니다. 사람 얼굴은 물론 동물을 비롯해 어떠한 것이라도 학습만 하면 인공지능이 현실과 거의 비슷하게 만들어낼 수 있습니다. GAN이 등장한 이후 더 정확하고 진짜와 비슷한 이미지를 만들기 위해 기존 GAN을 보완하는 다수의 기술이 등장했습니다.

딥페이크에 활용되는 GAN의 연구는 급속히 증가하고 있습니다. 2016년 74건이었던 연구 논문은 2019년 1,207건으로 대거 늘어났습니다. 또한, 기존 GAN 모델을 보완하는 DCGAN(Deep Convolutional GAN), SRGAN(Super Resolution GAN) 등 새로운 알고리즘이 등장했고, IT 기업 엔비디아는 여러 GAN의 단점을 보완하는 StyleGAN을 공개했습니다. StyleGAN이 등장하면서 기존 GAN 모델보다 더욱 향상된 얼굴 이미지가 생성되기 시작했습니다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

딥러닝 GAN 알고리즘이 발전하면서 딥페이크의 확산도 불러왔습니다. 가장 큰 변화는 인공지능 관련 종사자만 가능했던 GAN의 활용과 딥페이크 기술이 일반 사용자도 다룰 수 있는 환경으로 바뀌었다는 점입니다. 레딧의 한 사용자는 ‘페이크앱(FakeApp)’이라는 애플리케이션을 만들었습니다. 딥페이크 제작용 데스크톱 응용프로그램을 설치하면 개인이 보유하고 있는 데이터를 통해 누구나 딥페이크를 만들 수 있도록 했습니다. 해당 프로그램을 제공하던 사이트는 폐쇄됐지만, 딥페이크를 위한 딥러닝 알고리즘은 깃허브(GitHub)에서 오픈소스로 제공되고 있습니다.

━

과연 우리에게 필요한 기술인가?

2018년 4월 버즈피드는 한 영상을 공개했습니다. 버락 오바마 전 미국 대통령이 등장한 영상인데, 이는 딥페이크로 제작된 영상이었습니다. 영화 ‘겟아웃’, ‘어스’ 등으로 유명한 영화감독 조던 필이 오바마 전 대통령을 연기했습니다. 오바마 전 미국 대통령의 딥페이크 영상을 만드는 데 걸린 시간은 3일도 되지 않았습니다. 이 영상을 통해 많은 사람이 딥페이크의 위력을 실감했습니다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

문제는 딥페이크 영상이 이러한 유명 정치인, 연예인 등 이미지 데이터를 확보하기 쉬운 사람들에게 적용되고 있다는 점에서 출발합니다. 네덜란드의 사이버 보안 연구 회사인 '딥트레이스'의 보고서에 따르면 전 세계 딥페이크 영상의 대부분은 음란물(96%)입니다. 특히, 이 음란물에 등장한 얼굴의 25%는 한국 여자 연예인입니다. 딥트레이스의 보고서에는 가장 많은 음란물에 등장한 연예인의 국적과 직업이 공개됐는데 상위 10명 중 3명이 한국 가수로 나타났습니다. (딥트레이스는 개인 정보 보호를 위해 실명이나 기타 정보는 공개하지 않았습니다).

정치에서 선거를 앞두고 딥페이크 영상이 문제를 불러일으킬 수도 있습니다. 상대방을 비방하거나 영상 속 인물이 생각과 다른 말을 하는 등 딥페이크 영상이 대중의 혼란을 야기시킬 수 있습니다. 음성의 경우 더욱 정교해지면 지금의 보이스 피싱을 뛰어넘는 수준으로 또 다른 사회 문제를 일으킬 수 있습니다.

물론 딥페이크가 필요하다는 주장도 있습니다. 사용자와 닮은 게임 캐릭터를 만들거나 영화 속 다양한 인물을 만드는 등 엔터테인먼트 분야에서 활용할 수 있습니다. 베토벤이나 레오나르도 다빈치와 같은 과거의 인물을 영상 속에 살려내는 방식으로 교육이나 문화 예술 분야에서 활용할 수도 있습니다. 2019년 4월 축구선수인 데이비드 베컴은 말라리아 퇴치 광고를 찍었습니다. 해당 영상은 딥페이크 기술을 적용해 9개 국어를 이야기하는 모습으로 제작됐는데, 데이비드 베컴은 영어로만 이야기했고 8개 국어는 딥페이크 기술을 활용했습니다. 영상 촬영 시간이 줄어들 수 있고, 제작비용의 절감도 가능합니다.

그러나 앞으로 예상되는 더 큰 문제는 딥페이크가 유명인을 대상으로 한정하지 않는 점에 있습니다. 다른 기술처럼 점차 대중에게 확산하면서 대상이 일반인으로 확장되기 때문입니다. 딥러닝 학습을 통해 딥페이크 영상물을 만들기 위해서는 많은 이미지 데이터가 필요합니다. 과거에는 이미지 데이터 확보가 어려웠지만, 이제는 주변인을 비롯해 특정 인물의 이미지 데이터를 어렵지 않게 모을 수 있습니다. 구글 검색이나 인스타그램, 페이스북 등 소셜 네트워크 서비스에서 수집할 수 있습니다. 심지어 해외 사이트에서는 이미지 데이터를 제공하면 딥페이크 영상이나 이미지를 만들어주는 서비스까지 등장했습니다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

━

가짜와의 전쟁이 시작됐다

딥페이크는 영상의 특수효과 정도로 사용되는 기술이 아닙니다. 온라인에 공개된 무료 소스 코드와 인공지능 알고리즘만으로 누구나 진짜처럼 보이는 가짜 동영상을 만들 수 있는 시대입니다. 딥페이크 기술이 주로 악용되며 사회적 문제로 대두되자 국제사회는 대책을 수립하고 나섰습니다. 미국 정부는 국방부를 통해 딥페이크를 탐지하는 연구를 추진하고 있으며, 페이스북은 딥페이크 영상탐지 기술연구에 1000만 달러를 투자했습니다. 처음 딥페이크라는 용어와 기술이 등장한 레딧은 딥페이크 관련 커뮤니티를 종료했고, 많은 IT 서비스와 소셜 네트워크는 딥페이크를 별도로 구분하거나 관리하고 있습니다.

딥페이크는 기술적인 탐지와 조치도 중요하지만, 이미 영상이나 이미지가 제작된 이후 발생할 수 있는 문제점이 남아 있기 때문에 정책, 법률적인 강력한 조치가 필요합니다. 앞으로 국내에서는 딥페이크 영상을 만들어 배포할 경우 처벌됩니다. 지난 3월 국회를 통과한 관련 법안은 공포 후 3개월 후인 올해 6월 25일부터 시행됩니다. 딥페이크 영상물을 제작, 배포하는 경우 '5년 이하의 징역 또는 5천만 원 이하의 벌금'에 처하게 되고, 특히 영리 목적이 인정되면 '7년 이하의 징역'으로 가중 처벌됩니다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

온라인에서는 일단 피해가 발생하면 ‘엎질러진 물’입니다. 딥페이크 영상이 제작되고 유포되는 것을 원천적으로 막을 수 없기 때문에 대부분의 대응은 문제가 발생한 이후 가능합니다. MIT테크놀로지리뷰는 딥페이크 탐지와 같은 기술적 방법은 근원적 해결책이 되지 못한다고 말합니다.

먼저 딥페이크 영상을 유포하는 곳을 최대한 빨리 찾아내어 딥페이크 영상이 확산하지 못하도록 막아야 합니다. 사이트 역시 자체적으로 탐지 및 차단 기술을 도입해 문제 있는 딥페이크 영상을 걸러내야 합니다. 악용된 딥페이크가 방치되고 확산할 경우 우리는 앞으로 눈으로 보거나 귀로 듣는 것을 믿을 수 없는 세상을 맞이할 수 있습니다.

인공지능의 발전과 함께 딥페이크는 음란물 제작, 사이버 범죄 등에 활용되며 진짜와 가짜를 구분할 수 없는 세상을 만들고 있습니다. 딥페이크 기술의 부정적인 면에 대해 깊이 생각해야 할 시점입니다.

■ 윤준탁 에이블랩스 대표

SK플래닛, 한국IBM 등에서 근무했다. 뉴욕대학교에서 기술경영 석사를 취득했다. 1인 컨설팅 기업인 에이블랩스의 대표를 맡고 있다. 인공지능·블록체인 등에 관심이 많고, 디지털 경제와 산업에 대한 3권의 책을 펴냈다.

▶ 중앙일보 '홈페이지' / '페이스북' 친구추가

▶ 이슈를 쉽게 정리해주는 '썰리'