가짜 맞아?..'딥 페이크' 기술 진화 어디까지 왔나

진짜 같은 가짜, '딥 페이크'인기몰이

라미 말렉의 얼굴에 프레디 머큐리를 합성한 모습 (사진=유튜브 'Ctrl shift face' 갈무리)

영화 ‘아이언맨’에 톰 크루즈가 주인공으로 나오고, ‘스파이더맨’에는 원조 스파이더맨 주연이었던 토비 맥과이어가 등장한다. 무슨 일인가 싶지만 이는 모두 ‘딥 페이크’라는 기술을 접목해 네티즌들이 만든 합성 영상이다. 두 주인공의 모습에 전혀 다른 인물 사진을 입혔지만 얼굴 근육과 표정에 전혀 이질감이 없다. 모르는 사람이 보면 정말 이 두 사람을 영화 주인공으로 착각할 정도다.

인공지능 이용한 ‘ 딥 페이크 ’ 美 · 中 에서 인기

딥 페이크(Deepfake)는 스스로 학습한다는 뜻의 ‘Deep learning’과 ‘Fake’의 합성어로, 사실적인 가짜 영상을 말한다. 인공지능이 대상의 표정과 안면 근육을 분석하고 다른 인물 얼굴 위에 덧입히면 감쪽같이 외모가 바뀐다. 쉽게 말해 얼굴을 바꿔치기 하는 기술이다. 이미 외국에서는 수차례 딥 페이크를 통한 인물 합성 영상이 많다. 심지어 사자(死者)를 구현해내는 것도 가능하다. 딥 페이크 콘텐츠 유튜브 채널 ‘Ctrl Shift Face’는 영화 ‘보헤미안 랩소디’주연 라미 말렉 얼굴에 프레디 머큐리 얼굴을 합성했다. 마치 프레디 머큐리가 환생해 연기를 하는 듯 어색함은 찾을 수 없다.

이 기술은 중국에서도 곧장 따라하고 있다. 중국은 지난 30일 ‘ZAO’라는 딥 페이크 어플리케이션을 선보여 누구나 무료로 이용하고 있다. 합성이 어렵지 않고 손쉽게 이용할 수 있어 출시와 동시에 어플 다운로드 1위를 기록하기도 했다. 해당 앱을 사용중인 중국인 장우(?宇·24)씨는 “친구 얼굴을 영화 주인공 얼굴에 합성하는 놀이를 하는데 정말 친구가 영화 속에서 말하는 것 같아 신기했다”고 치켜세웠다. 페이크 기술이 중국에서는 일종의 놀이문화로 자리잡고 있는 셈이다.

연설을 하고 있는 문재인 대통령의 인공지능 영상 (사진=머니브레인 유튜브 갈무리)

가짜뉴스 우려 , 디지털 성범죄 등 맹점도 존재

하지만 딥 페이크가 ‘얼굴 바꾸기 놀이’를 넘어 범죄로 악용될 소지가 있다는 우려도 있다. 지난 6월 마크 저커버그 페이스북 최고경영자가 “수십억 명의 비밀과 데이터를 훔쳐 조종하는 남자를 상상해 보라”는 영상이 올라오자 떠들썩했다. 지난 해 개인정보 유출로 한껏 홍역을 치렀던 그가 한 말이라기에는 믿기지 않았다. 알고 보니 이는 영국 예술가 빌 포스터가 개인 SNS에 재미삼아 올린 가짜영상이었다. 이는 단발성 사건으로 마무리됐지만 사건 조작이 충분히 가능하다는 위험성을 감지하기에는 충분했다.

얼마 전 우리나라에서도 문재인 대통령을 딥 페이크 기술로 합성한 영상이 눈길을 끌었다. 지난 7월 국내 소프트웨어 개발업체가 유튜브에 게재한 영상이었는데 표정과 목소리, 손짓 하나 어색함 없이 문 대통령을 흉내 내고 있다. 영상을 본 시청자들은 일제히 우려의 목소리를 냈다. 없는 사실을 만들어 낼 수 있는 가짜뉴스로 활용될 수 있어 "끔찍한 기술"이라고 표현한 시청자도 있었다. 미국 또한 상황은 마찬가지다. 트럼프 미국 대통령을 대상으로 백악관에 앉아 농담을 하는 딥 페이크 영상이 올라와 논란이 됐다. 상황이 이렇다보니 미국은 대선을 1년 앞두고 가짜영상 총력전에 나섰다. 대선을 앞두고 선거를 교란시킬 수 있는 가짜영상을 뿌리 뽑겠다는 것이다.

정치권의 우려는 이미 디지털 포르노에서 고스란히 나타나고 있다. 유명 여자 연예인 얼굴을 포르노 배우와 합성해 확대 재생산되는 사례가 생기면서 도외시할 수 없는 문제가 됐다. 딥 페이크 포르노는 연예인 뿐 아니라 일반인을 상대로도 이뤄질 수 있어 또 다른 형식의 리벤지 포르노를 양산할 가능성이 있는 지적도 적지 않다. 디지털성범죄피해자지원센터 관계자는 "아직 일반인을 대상으로 한 딥 페이크 포르노 유출 피해사례가 접수된 적은 없지만 충분히 경각심을 가지고 조심해야 한다"고 주의했다.

딥 페이크는 허점을 충분히 규제한다면 긍정적인 변화도 기대할 수 있다. AI가 쉬지 않고 뉴스를 진행하거나 가상 인물로 만들어진 아이돌 스타가 등장한다면 인건비 절감 효과도 있다. 이미 중국 신화통신은 유명 앵커 얼굴을 합성한 AI가 뉴스를 진행하고 있어 그 효과를 실감하고 있다. 다만 먼저 딥 페이크 기술이 지닌 치명적인 허점부터 규제를 해야 할 것이다. 규제가 선행되지 않고서야 딥 페이크는 그야말로 끔찍한 기술로 군림할 위험이 있다.

스냅타임 민준영 인턴기자