SF보다 희한하고 당혹스러운 양자컴퓨터의 세계

지구 상에서 가장 강력한 슈퍼컴퓨터를 월등히 뛰어넘는 양자컴퓨터를 구글이 만들었다는 뉴스가 들려왔다. 하지만 그 주장이 담긴 문서는 바로 회수되어 더 궁금증을 자아내고 있는데, 그 원래 내용인즉슨 슈퍼컴퓨터가 1만 년 걸려야 하는 계산을 3분 20초에 끝냈다나 어쨌다나 하는 그런 SF적 이야기였다.

양자컴퓨터가 아니면 도저히 안 되는 일, 즉 양자 초월성(quantum supremacy) 혹은 양자 우위(quantum advantage)라고 부르는 사태가 드디어 벌어진 것일지 모른다는 흥분이 충만했다. IBM이 53 양자비트의 양자컴퓨터를 만들어 클라우드화하려 하고, 마이크로소프트는 Q#이라는 양자컴퓨터 프로그래밍 언어를 공개하는 등 근래 급증하는 양자컴퓨터 소식과 함께 기분은 어느덧 미래다.

양자컴퓨터라는 것, 그냥 빠른 컴퓨터라고 생각해 버리면 편하겠지만 그게 그렇지가 않다.

지금까지의 컴퓨터란 아무리 발전해도, 그러니까 현대 CPU의 컴퓨팅(계산)이란 사실 주판에서 계산하던 시절과 근본적으로 다르지 않다. 주판알을 올리고 내리듯 0과 1의 스위치를 올리고 내리고, 그 스위치를 모아 논리를 만드는 논리 게이트를 구성하는 일이 곧 IT의 역사였다. 깔끔하고 직관적이다.

그런데 양자컴퓨터는 너무 달라 당혹스럽다. 이 비직관적 불편함의 원인은 역시 양자(量子·quantum) 그 자체에 있다. 바로 빛과 전자처럼 이 세계를 구성하고 있을 어쩌면 가장 작은 ‘소재’가 바로 양자다. 즉 원자보다 작은 아원자입자(전자, 이온)가 어떻게 거동하는지에 관한 물리학이 양자역학인데, 우리의 상식을 대변하는 고전물리학과 이에 기반한 현실을 뒤흔든다.

현대물리학에서는 한없이 작은 세계로 들어가 그곳에서 만나는 소립자란 이름처럼 알갱이가 아니라 양자장(量子場)이라 이야기한다. 장(場·field), 그러니까 마치 비단 주름처럼 물결치듯 전파되는 것이 바로 소립자. 전자도 쿼크도 힉스 입자도 모두 출렁이는 물결일 뿐. 그렇다면 세계는 입자가 뭉쳐 이뤄진 게 아니라 장으로 이뤄져 있게 된다. 게다가 이는 관찰될 수도 없는데, 왜냐하면 관찰하는 순간 하나의 입자로 수렴해버려서다.

빛은 알갱이인 동시에 파동이라는 그 유명한 곤혹스러움은 ‘신은 주사위를 굴릴 리 없다던’ 아인슈타인을 괴롭혔지만, 빛은 물론 삼라만상 모든 물질의 공통 소재 또한 이 딜레마에 빠져 있었던 것이었다. 즉 관찰되는 바로 그때까지 동시에 여러 다른 상태로 존재할 수 있다니. 하지만 이 딜레마 덕에 양자컴퓨터의 계산단위인 양자비트가 고안된다.

양자비트(Quantum bit, 또는 큐비트·qubit)는 우리 컴퓨터의 64비트의 그 비트와는 달리 0과 1뿐만 아니라, 0과 1이 동시에 될 수 있다. 즉 양자의 세계는 물결치듯 출렁이며 0 또는 1이 될 가능성이 어느 쪽도 제로가 아닌 상태를 유지하고 있다.

즉 0과 1을 동시에 담을 수 있는데, 이것이 그 유명한 ‘슈뢰딩거의 고양이’다. 동시에 죽어 있고 또 살아 있을 수밖에 없는 한 마리의 고양이가 담긴 상자. 하지만 관찰되는 순간 0 또는 1이 되는 신개념의 비트는 그렇게 만들어진다.

중첩(superposition)과 얽힘(entanglement)

이처럼 양자의 세계는 관찰, 계측되는 바로 그 순간까지 동시에 복수의 서로 다른 상태로 존재한다는 원리가 바로 ‘중첩(superposition)’이다. 이걸로 컴퓨터를 만든다면 양자비트라 불리는 데이터가 동시에 여러 상태로 존재 가능하게 되니, 그야말로 0/1 스위치의 이원성을 뛰어넘는 흑마술을 부릴 수 있다.

예컨대 종래의 4비트는 0000~1111까지 16가지 경우의 수 중 단 하나를 담을 수 있다. 반면 4 양자비트라면 이 16가지의 가능성이 동시에 발현가능하다. 만약 10 양자비트면 1024, 16이면 65536, 20이면 벌써 100만 개의 가능성이 동시에 존재하게 할 수 있다.

여기에는 중첩보다 기괴한 또 하나의 속성이 관여하는데 바로 ‘얽힘(entanglement)’이라는 기분 나쁜 상태다. 양자들은 서로 얽힐 수 있는데, 양자얽힘 관계에 있는 두 입자는 한쪽을 관측하면 바로 다른 쪽의 상태가 확정되어 버린다. 이 둘은 물리적으로 멀리 떨어져 있어 서로 통신할 방법도 시간도 없어도 서로 얽혀서 유지된다. 설령 은하의 양쪽만큼 공간적으로 떨어져도 서로 영향을 주며, 독립되지 못한 상태로 얽혀 있게 되는 것이다. 현재까지 양자 얽힘은 1,200km 떨어진 곳에서도 실험 증명되었는데, 하나의 입자를 관측하면 다른 입자의 상태를 즉각 알아낼 수 있다니 기분 나쁜 일이다.

그렇다면 이제 각 큐비트의 상태가 다른 큐비트의 상태와 관련지어 얽히게 해 여러 양자비트를 하나의 덩어리로 다룰 수 있게 된다. 하나의 큐비트를 관찰하면 얽혀 있는 다른 큐비트의 값을 바로 도출한다.

그리고 이렇게 얽힐 수 있는 큐비트들을 다룰 컴퓨터를 만든다. 이런 양자들을 위한 논리 게이트를 만들어서, 하나의 상태가 게이트를 거치면 또 다른 상태가 되게 한다. 이때도 중첩에 의해 그 원래의 상태란 확정적인 하나가 아니라 동시에 여러 상태인 셈이 된다. 이제 다시 얽히고 중첩된 비트들의 여러 상태를 또 회로에 돌리는 식으로 알고리즘을 만든다. 병렬 처리는 아니지만 여러 개의 상태가 확률론적으로 중첩되어 답을 향해 나아간다.

일반 컴퓨터의 비트는 한 번에 한 가지 값만 다를 수 있기에, 기존 컴퓨터는 이걸 for 루프로 반복하는 식의 알고리즘을 짰다. 종래의 컴퓨터는 기본적으로 하나하나 풀어가는 것이었다면, 이제 양자 컴퓨터는 여러 경로를 동시 진행한다. 하나의 큐비트에 여러 상태를 표현할 수 있는 양자 컴퓨터는 입력 명령 하나로 여러 계산을 한꺼번에 돌리는 효과를 얻는다. 내장 양자비트의 수가 늘어나면 성능은 지수함수적으로 따라 늘어나, 영겁의 가능성을 동시에 검토할 수 있다.

양자비트 n개는 한번에 기존컴퓨터의 2의 n승 배의 처리를 하게 되니, 처리 속도가 늘어날 수밖에 없다. 큐비트가 하나 늘어날 때마다 전체 처리 성능은 2배가 되는 식이다. 시스템이 동시에 만들어낼 수 있는 상태의 수가 두 배가 되어서다. 슈뢰딩거의 고양이는 살아 있는 동시에 죽어 있기 때문이다.

하지만 이 고양이 상자를 현실에서 볼 수는 없듯, 양자컴퓨터를 만드는 일은 쉽지 않은 일이다. 회의론이 줄지 않는 이유는 다양한 조합 중에서 최적값을 뽑아내는, 그러니까 최적 경로를 찾는 일이 쉽지 않아서다. 중첩과 얽힘이라는 양자의 특성을 살린 계산 후의 양자비트를 어찌 읽어내더라도 그저 랜덤한 값일 뿐이다. 의미 있는 결과가 되기 위해서는 의미 있는 약분과 환산(reduction)이 필요한데, 양자역학적 파동의 특성을 살려 취사 선택해 나간다고 말해버리고 말기에는 방대한 가능성 속에서 확정적 답안을 내는 일이란 여전히 SF 같아 보인다.

구글이 진정 양자 초월성에 도달했는지 관심이 쏠리는 이유다.

우리가 사는 세계는 지금 어디?

소립자란 실은 안개처럼 물결(장)처럼 퍼져 있지만, 관찰하는 순간 한 점이 된다고? 이 중첩이라는 부조리극을 그냥 믿으라는 것인가? 그냥 믿으라는 것이 ‘코펜하겐 해석’이고 아인슈타인을 비롯한 수많은 물리학자들은 괴로워했다.

인간과 상관없이 ‘실재’라는 객관적인 진실이 있다고 생각한 것이 과학이었는데, 하지만 양자 상태의 중첩은 관측하는 순간 어느 상태로 응축된다고?

관찰이 무엇이기에?

인간의 시선이 무엇이기에?

이 세상은 확률과 우연의 산물이고, 게다가 우리가 쳐다보는 순간 갑자기 그중 하나로 ‘붕괴’되어 버린다니...

이 당황 속에서 더 당황스러운 이야기가 시작된다. 이 모든 것이 가능한 이유가 어쩌면 세계가 여럿 있기 때문일지도 모른다며 ‘다세계 해석’이 시작된 것이다.

중첩의 수만큼 세계가 분기해서 평행세계가 존재하게 된다는 것인데, 관측에 의해 상태가 하나로 수렴되는 것이 아니라 관측 때문에 별개의 평행 세계가 출현한다니 SF가 따로 없지만 지금 과학은 진지하다.

관측자 자신도 관측하는 순간 분기되어 하나의 세계에 속하므로, 하나로 수렴된 것처럼 보일 뿐, 가능성의 수만큼 세계가 존재한다는 다세계 해석(Many-worlds interpretation, MWI).

그렇다면 양자컴퓨터는 동시에 존재하는 수많은 세계를 총동원하여 계산을 감행하려 하고 있다. 그렇다면 빠를 수밖에.

이제 마블의 멀티버스가 오히려 현실적으로 보인다.

정말 극도로 발전한 과학은 마법과 구분할 수 없는 법인가 보다.

양자컴퓨터는 이미 40여 년은 된 연구 분야다.

하지만 근래 구글, IBM, 마이크로소프트, 인텔 등 고전 컴퓨터의 주역들의 움직임이 매섭다. 마이크로소프트의 Q#, IBM의 Qiskit 등 개방적 대중화 움직임을 볼 때 이제라도 양자컴퓨터는 연구실을 벗어날 기세다.

그런데 그들이 잘 만드는 그 컴퓨터로 할 수 없는 일이란 무엇인가? 그 절대적 우위성을 드러내는 단 하나의 사례, 퀀텀 어드벤티지, 그러니까 양자 초월성(Quantum Supremacy)을 획득하기 위한 경쟁은 이미 시작되었다.

그것은 무엇일까?

후보 하나를 꼽자면, 지금까지 존재하지 않았던 괴물 같은 계산력을 발휘할 수 있기에, 소인수분해에 입각한 현대 암호학을 무력화할지도 모른다. 예컨대 RSA 암호 해독이 순간에 가능할 것이라는 피터 쇼어(Peter Shor)의 쇼어 알고리즘(1994)은 양자컴퓨터에서 돌리게 되는 날 현대 보안의 기반을 초토화시킬 수도 있다.

단적으로 블록체인 암호화폐가 입각한 주요 가정(假定)을 무너뜨리게 되는데, 이와 함께 무너지는 것은 국가 안보와 같은 광의의 시큐리티일 수도 있다. 따라서 양자컴퓨터 ‘내성(耐性)’에 관한 연구 논의가 시작되고도 있다.

블록체인 뿐만 아니라 모던 인공지능처럼 확률과 우연에 기반한 기술 또한 양자컴퓨터의 영향을 받을지 모르지만, 모두 그저 추정만 하고 있을 뿐, 아직까지 양자 우위를 보여주지는 못하고 있다.

고전 컴퓨터를 대체할 가능성은 낮다. 일단 광자의 양자역학적 움직임을 다루는 일이 만만치 않아서다. 양자 상태를 안정시켜 제어하는 양자 게이트형 컴퓨터의 경우 외부 노이즈에 약하다. 양자칩을 절대영도(-273도) 부근으로 냉각해야 한다거나 금을 여기저기 발라야 한다거나 어딘가 아직은 마술사의 연구실이 어울린다. 게다가 아직 표준도 정해져 있지 않고, 소프트웨어를 짜는 방식도 완전히 다르다. 하지만 DNA 스토리지, DNA 프린팅과 함께 과학적 상상력을 자극한다.

기초연구가 필요하기에 구글-UC산타바바라, 알리바바-중국과기대 등처럼 산학 협력이 활발하며, 호주와 캐나다 등은 국책으로 양자 컴퓨터에 집중하고 있다. 특히 캐나다의 경우 블랙베리 창업자가 워털루 대학과 퀀텀 밸리(Quantum Valley) 펀드를 조성하고, 정말로 워털루를 말 그대로 차세대 실리콘 밸리의 퀀텀 밸리로 만들려 하고 있다. 워털루는 영욕(榮辱)의 블랙베리 타운임과 동시에 D-Wave 등 신생 양자 컴퓨터 상용화 기업의 고장이기도 한데, 인공지능 이래 기초 IT 연구에 있어서 캐나다의 분발은 주목할만하다.

한국은 2023년까지 5 양자비트를 실현한다는 계획. 미국, 중국은 물론 일본에도 크게 뒤처져 있다.