문이 세 개 있다. 하나의 문 뒤에는 최고급 자동차가, 나머지 두 문 뒤에는 염소가 있다. 하나를 고르면 정답을 아는 사회자가 염소가 있는 문을 열어 보여주고 다시 묻는다. "선택을 바꾸시겠습니까?" 확률론의 고전 문제인 '몬티홀 문제'다. 스탠퍼드대학교 전자공학과에서 양자컴퓨터를 연구하는 최준희 교수는 이 익숙한 게임으로 양자컴퓨터의 원리를 설명한다.
100만 개의 문, 확률이 또렷해지는 순간
문이 100만 개라고 가정해보자. 단 하나의 문 뒤에만 자동차가 있다. 처음 고른 문이 정답일 확률은 100만분의 1에 불과하다. 이때 사회자가 나머지 문 중 염소가 있는 99만 9998개를 모두 열어 보여준다면, 남은 두 문 중 처음 선택하지 않은 문으로 바꾸는 쪽이 100만분의 999999라는 압도적인 확률을 갖게 된다. 틀린 가능성을 하나씩 지워나가는 과정에서 정답이 또렷하게 드러나는 것이다.
양자컴퓨터는 파동으로 가능성을 겨룬다
양자컴퓨터의 세계에는 정답을 알려주는 사회자가 없다. 대신 수많은 가능성을 파동처럼 동시에 퍼뜨린 뒤 서로 간섭하게 만든다. 오답에 해당하는 가능성은 서로 상쇄되어 희미해지고, 정답에 해당하는 가능성은 힘을 더해 또렷해진다. 노이즈 캔슬링 이어폰이 듣고 싶지 않은 소음은 줄이고 원하는 소리는 선명하게 만드는 것과 같은 원리다. 마지막 순간 측정을 통해 메아리가 가장 크게 돌아오는 답 하나가 실제로 나타난다. 양자컴퓨터는 모든 답을 미리 알고 골라내는 마법의 기계가 아니라, 정답이 나올 확률을 압도적으로 키워주는 기계다.
원자와 대화하는 유일한 언어, 빛
최 교수는 중성 원자를 정보의 기본 단위로 사용하는 양자컴퓨터를 연구한다. 문제는 눈에 보이지도 않는 원자에게 어떻게 명령을 내리느냐다. 사람은 말과 글로, 컴퓨터와는 키보드와 코드로 대화하지만 원자는 사람의 언어를 알아듣지 못한다. 원자에게는 원자만의 언어가 있다. 바로 빛, 더 정확히는 정교하게 제어된 레이저다. 특정한 파장과 세기의 레이저를 쬐면 원자는 그 빛에 반응한다. 어떤 레이저는 원자를 공간에 붙잡아두고, 어떤 레이저는 원자의 상태를 바꾸며, 어떤 레이저는 계산이 끝난 뒤 결과를 읽어낸다. 실험실에서는 원자를 우주 공간보다 깨끗한 초고진공 상태에서 절대 0도에 가깝게 냉각시켜야 비로소 이 대화가 가능해진다.
걸음마를 뗀 아이 같은 기술
지금의 양자컴퓨터는 세상의 어려운 문제를 척척 해결하는 어른이라기보다, 이제 막 걸음마를 떼고 빠르게 배우는 아이에 가깝다. 아주 영특하지만 동시에 매우 예민해서, 작은 진동이나 온도 변화, 자기장의 흔들림에도 계산 오류가 생긴다. 최근에는 AI가 이 예민한 아이를 돕는 선생님 역할을 맡아, 오류가 어디서 생기는지 찾고 레이저 명령을 더 정밀하게 조정하는 데 활용되고 있다.
소음 속에서 나만의 질문을 던지는 힘
몬티홀 문제와 달리 우리 삶에서는 모두가 같은 자동차를 원하지 않는다. 누군가에게는 자동차가 정답이지만, 누군가에게는 전혀 다른 것이 더 소중한 정답일 수 있다. 이미 알려진 정답을 찾는 일은 AI와 슈퍼컴퓨터가 점점 더 잘하게 될 것이다. 그래서 앞으로 더 중요해지는 능력은 복잡하고 소음 가득한 세상에서 무엇이 중요한 문제인지 알아차리고, 스스로 행복할 수 있는 질문을 던지는 힘이다. 내가 무엇을 좋아하는지, 무엇을 잘할 수 있는지, 어떤 선택이 나를 오래 행복하게 만드는지 묻는 힘 말이다.