AI가 비상계엄 선포하는 세계?…진화‧공멸 갈림길[미래on]

[편집자주] 기술·사회·산업·문화 전반의 변화가 가속화하고 있다. 산업·문화 혁신과 사회·인구 구조 변화 등 여러 요인이 유기적으로 맞물린 현상이다. 다가오는 시대에 성공적으로 대처하려면 현재를 진단하고 미래를 가늠해 보는 지혜가 필요하다. 이를 위해 뉴스1은 세상 곳곳에서 감지되는 변화를 살펴보고 어떤 식으로 바뀌는지 '미래on'을 통해 다각도로 살펴본다.

전시나 국가비상 사태가 아닌데 비상계엄을 선포한 윤석열 대통령의 군 통수권 문제를 놓고 논란이 거세지고 있다. 범죄 혐의를 따져봐야 하는 상황에서 수사 대상이 군 통수권을 계속 가지고 있는 건 위험하다는 이유에서다.

이같은 문제 제기는 책임 및 준법과 맞닿아 있다. 위법 소지가 있는 권력 행사는 군 통수권자의 책임과 준법 의무를 벗어난 행위다.

이런 우려는 넓게 보면 무책임한 권력 행사를 경계해야 한다는 시각으로 이어질 수 있다. 영화나 소설에서도 책임을 지지 않는 권력의 위험성을 수 차례 경고했다.

결이 달라 보이긴 하지만 영화 터미네이터 시리즈의 인공지능(AI) '스카이넷'은 본질적으로 책임 및 준법 의무가 없는 AI가 군 시스템을 완전히 장악했을 때 상상할 수 있는 최악의 시나리오로 볼 수 있다.

당초 인류 평화를 위해 만들어진 첨단 방어체계지만, 결국 인간에게 무차별적 공격을 감행하는 존재가 됐다.

책임 소재가 불분명한 AI가 군 시스템을 지휘하거나 주도권을 가지는 데 우려가 드는 게 사실이다.

현재 군 곳곳에서는 AI 기술을 활용한 무기체계가 이미 활발하게 사용되고 있다.

일례로 우크라이나의 지휘·통제 프로그램인 'GIS 아르타'는 적군의 위치를 파악한 뒤, 어느 부대가 적군을 어떻게 포격할 지 최적의 경로, 사거리 등을 판단해 알려준다.

이와 같은 기술 발전이 계속 될 경우 '책임 없는 권력'이 더욱 커질 수 있다는 지적이 나온다.

올해 노벨상 수상자들은 최근 스웨덴 왕립과학한림원에서 열린 물리·화학·경제학 노벨상 수상자 공동 기자회견에서 인간의 지능을 뛰어넘는 초지능 AI가 5~20년이면 개발될 것이라고 전망한 상태다.

태재미래전략연구원에 따르면 유엔도 올해 9월 '인류를 위한 AI 관리'라는 제목의 보고서를 통해 AI가 가져올 위험에 주목했다. 그러면서 기후협약에 버금가는 무게를 두고 AI 거버넌스 문제를 추진해야 한다고 결론냈다.

이번 사태로 위법한 계엄선포가 불러오는 공포와 피해를 모두가 알게 됐다. 먼 얘기로 들릴 수도 있겠지만 공통된 AI 기술 규제 기준을 마련해 글로벌 차원에서 일괄되게 적용함으로써 AI 기술을 공정하고 안전하게 관리해야 하는 시기가 됐다.

양새롬 기자 flyhighrom@news1.kr