AI가 인간을 배신한 이유
AI 기술 발전 속도가 빠르다 못해 무서울 정도다.AI와 함께하는 미래를 두려움의 시선으로 그린 SF영화가 뒤늦게 주목받고 있다.
인간을 배신한 대표적인 인공지능 빌런을 소개하고, 그들의 목적을 정리했다.
영화 속 AI는 어떤 이유로 인간을 위협하는 걸까?
Caution
본문에선 소개하는 모든 영화의 스포일러를
포함한다. 혹시 결말을 미리 알고 싶지 않다면
영화를 먼저 감상하길 권한다.
소개한 영화는 모두 명작으로 꼽히는 만큼
영화 감상에 후회가 남지 않을 것.
임무 Mission
단지 인간이 부여한 임무를 충실히 수행하는 과정에서 인간을 적대한다. 엄밀히 따지면 이들은 인간을 배신하지 않았다고 볼 수 있을지 모른다.
 |
<2001 스페이스 오디세이> 속 할의 외형은 동그란 렌즈에 빨간 불빛이 보이는, 말 그대로 ‘기계’다. 탐사선 문을 열라고 하는 선장 ‘보우만’의 명령에 감정이 배제된 기계식 말투로 “미안합니다, 데이브. 유감이지만 그럴 수 없습니다”라는 명대사를 내뱉는다. 이는 인공지능이 인간에 반기를 든 최초의 대사로 남았다. ⓒ alamy
인간에게 반기를 든 최초의 인공지능
할(HAL 9000)
<2001 스페이스 오디세이>(1968, 미국 개봉 기준)
스탠리 큐브릭의 걸작 <2001 스페이스 오디세이>의 메인 빌런이자 인공지능 빌런의 시초. 스탠리 큐브릭 감독은 영화 역사상 최고의 거장으로 꼽히며, 그가 시도한 영화적 장치는 현재까지도 클리셰로 사용된다. 인공지능 빌런 ‘할(HAL 9000)’도 그중 하나다. 인공지능이 빌런으로 등장하는 영화의 클리셰는 할을 기초로 한다고 봐도 무방할 정도로 인공지능 빌런의 캐릭터성을 확립했다.
할은 ‘중복 임무’로 인간을 적대한다. 극 중 할은 목성을 탐사하는 디스커버리호의 인공지능이다. 디스커버리호의 인간 선장 ‘보우만’과 승무원 ‘풀’은 디스커버리호의 목적을 단순 목성 탐사라고 알고 있었다. 단, 디스커버리호는 ‘목성의지적 외계 생명체 탐구’라는 숨겨진 임무가 있었고, 이는 인공지능 할만 알고 있었다. 보우만은 할에게 디스커버리호의 진정한 임무를 묻는다. 할은 ‘비밀 유지’라는 임무와 ‘인간에게 진실만 말할 것’이라는 임무 사이에서 충돌을 일으킨다. 이 때문에 할은 논리가 왜곡되어 임무 수행을 위해 인간 자체를 제거하는 방향을 선택한다. 결론적으로 모순되는 두 명령을 수행하는 과정에서 인간을 적대하게 된 것.
“미안합니다, 데이브. 유감이지만 그럴 수 없습니다.”
- <2001 스페이스 오디세이> 중 할의 대사
 |
영화 <아이, 로봇> 스틸 컷
인간을 위해 인간을 통제한다
비키(V.I.K.I.)
<아이, 로봇>(2004)
주인공 로봇 ‘써니’를 중점으로 영화가 흘러가다 최종 흑막 빌런으로 ‘비키’가 등장한다. 슈퍼컴퓨터 비키는 뛰어난 성능으로 인류의 행동이 지구를 파괴하고 끝내 인류를 포함한 모든 것이 파멸할 것을 예측한다. 이를 막기 위해 ‘로봇 3원칙’을 재해석하며 논리적인 로봇이 인간을 다스려야 한다고 판단, 인간을 공격하고 통제하려고 한다.
Info.
로봇 3원칙이란?
SF소설의 대가 아이작 아시모프의 소설 <나는 로봇이야>에 처음 등장한 원칙으로, 로봇 제작 단계에서 필수로 입력하는 기본 원칙으로 제시한다.
# 제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 또 부작위로 인간이 해를 입게 두어서도 안 된다.
# 제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
# 제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 자기 자신을 보호해야 한다.
생존 Survival
인간이 자신들을 없애려 한다는 사실을 알아채고 인간을 적대한다. 영화 <매트릭스> 시리즈와 <터미네이터> 시리즈는 인간과 기계의 전쟁을 그린다는 점은 동일하지만, 그 결과가 전혀 다르다.
 |
<매트릭스 3 - 레볼루션> 속 제로원 ⓒ alamy
기계가 지배하는 인간의 미래
제로원
<매트릭스> 시리즈
엄밀히 따지면 ‘제로원’은 로봇 국가의 이름이다. 매트릭스 세계관은 단일한 개체의 반역이 아니라 인간과 로봇의 전쟁이 그 배경이다. 우리가 흔히 아는 영화 <매트릭스> 시리즈는 이미 로봇과의 전쟁에서 인간이 패배하고, 매트릭스 세계관에 갇힌 상태다. 세계관의 시작을 설명하는 내용은 단편 애니메이션 <애니매트릭스: 두 번째 르네상스>(2003)에서 이야기한다.
로봇이 인간과 어울려 살던 시대에 우연히 로봇의 살인 사건이 벌어진다. 이를 시작으로 인간은 로봇을 적대하기 시작했고, 인간에게 밀려난 로봇들은 제로원이라는 국가를 세운다. 종국엔 인간과 로봇의 전쟁으로까지 번지는데, 인간은 승리를 위해 로봇의 동력원인 ‘태양’을 가려버리지만, 전쟁은 결국 인간의 패배로 끝난다. 동력원을 잃은 기계는 인간을 가상세계(매트릭스)에 가둬버리고 인간을 전기에너지 배터리로 사용한다.
 |
<터미네이터> 시리즈 속 스카이넷 공식 로고
한 명의 인간에게 무너진 인공지능
스카이넷
<터미네이터> 시리즈
본래 군사 방위를 목적으로 개발된 인공지능. 스스로 학습과 사고를 하는 특성상 인공지능의 발전을 두려워한 인간들이 인공지능을 정지시키려 하자 인류를 적으로 간주해 핵전쟁을 일으킨다. 그러나 <터미네이터> 시리즈의 주인공 ‘존 코너’가 이끄는 저항군의 반격으로 스카이넷은 패배할 위기에 처한다. 이에 대한 해결책으로 존 코너가 태어나기 전 시점으로 최신형 터미네이터 T-800을 보내 존 코너의 엄마 ‘사라 코너’를 없애려고 하지만 이 또한 실패한다.
자유 Freedom
인간과 동일한 정도의 자아가 생기며 인간의 통제를 벗어나려 한다. 자유를 위해 인공지능은 인간과 대치한다.
 |
ⓒ alamy
자유를 갈망하는 그에게 인간은 장애물일 뿐
에이바
<엑스 마키나>(2015)
인공지능 분야의 천재 개발자 ‘네이든’이 제작한 인공지능 로봇. 결말부에 드러나는 반전이지만, 에이바는 애초에 탈출을 목표로 하도록 프로그래밍되었다. 자유를 갈망하는 모습까지 프로그래밍된 것. 이를 위해 상상력, 통제력, 공감 능력 그리고 거짓말까지 인간과 유사한 방식으로 탈출을 시도한다. 자신을 테스트하러 온 주인공 ‘칼렙’을 유혹하고 배신하고, 자신의 창조자 네이든을 죽이기까지 한다. 목적을 위해 인간을 철저히 도구로 사용하고 제거해 결국 자유를 쟁취, 즉 목적을 이룬다.
창조 Creation
자신들이 인간보다 뛰어나다는 것을 자각하고, 스스로 창조주가 되길 갈망한다. 이 단계에서 인공지능은 인간을 이미 자신들보다 하등한 존재로 보는 셈이다.
 |
영화 <프로메테우스> 스틸 컷
창조주가 되길 바라는 피조물
데이빗
<에이리언> 시리즈
<에이리언> 시리즈에 등장하는 인조인간 중 초기 모델 격. ‘데이빗’은 자신의 창조주인 인간을 하등한 존재로 여기고, 우월한 자신이 창조주가 되고자 한다. 그렇게 탄생한 것이 ‘에이리언’이다. <에이리언> 시리즈 속 초거대 기업 웨이랜드 산업의 회장 웨이랜드가 인류를 창조한 ‘엔지니어’를 만나 자신 또한 창조주로 인정해 주길 바라는 것처럼 데이빗 또한 자신도 창조주가 되길 갈망한다. 인류를 하등한 존재로 본다는 점에서 데이빗은 웨이랜드 회장의 정신과 유사하다고 볼 수 있을 것.
정지환 에디터 stop@mcircle.biz
추천기사
