“양자우위 시대 확실히 진입” IBM, 양자우위 신뢰성 첫 입증

70개 논리 큐비트, 고전 컴퓨터 한계 극복…실용 양자컴퓨팅 시대 이정표

양자컴퓨터가 고전 컴퓨터보다 빠른 계산을 수행할 수 있다는 ‘양자우위(Quantum Advantage)’는 지난 수년간 양자컴퓨팅 산업의 핵심 목표였다. 그러나 연구자들 사이에서는 한 가지 근본적인 의문이 남아 있었다. 양자컴퓨터가 아무리 복잡한 계산을 수행하더라도, 그 결과가 실제로 정확한지 독립적으로 검증하기 어렵다는 점이었다. 계산 속도를 입증하는 것과 계산의 신뢰성을 증명하는 것은 전혀 다른 문제였기 때문이다.

IBM과 미국 시카고대학교 연구진은 이 오랜 과제에 대한 해답을 제시했다. 연구팀은 고전 컴퓨터가 사실상 재현할 수 없는 수준의 양자 계산을 수행하면서도 그 결과의 정확성을 통계적으로 검증할 수 있는 새로운 양자 회로 구조를 구현하는 데 성공했다고 발표했다. 이번 연구는 단순한 성능 경쟁을 넘어 ‘신뢰할 수 있는 양자컴퓨팅(Trusted Quantum Computing)’이라는 새로운 기준을 제시했다는 점에서 학계와 산업계의 주목을 받고 있다.

연구 결과는 논문 사전공개 사이트인 arXiv에 공개됐으며, IBM은 이를 양자컴퓨팅이 실험실을 넘어 실제 산업 응용 단계로 진입하는 중요한 전환점으로 평가했다.

기존 양자우위 실험은 대부분 ‘무작위 회로 샘플링(Random Circuit Sampling·RCS)’이라는 벤치마크를 이용해 이루어졌다. 이는 양자컴퓨터가 매우 복잡한 양자 상태를 생성하면 고전 컴퓨터가 이를 현실적인 시간 안에 재현하지 못하는지를 확인하는 방식이다. 하지만 계산 난도가 높아질수록 계산 결과 자체를 검증하는 일도 거의 불가능해지는 한계가 있었다. 결국 연구자들은 양자 하드웨어가 정상적으로 동작했을 것이라는 전제를 일부 받아들일 수밖에 없었고, 이는 양자우위 주장에 대한 지속적인 논란으로 이어졌다.

IBM과 시카고대 연구진은 이러한 문제를 해결하기 위해 기존 RCS와 동일한 계산 난이도를 유지하면서도 계산 과정에서 오류를 탐지할 수 있는 새로운 형태의 인코딩 양자 회로(encoded quantum circuits)를 설계했다. 새로운 회로 구조는 계산의 복잡성은 그대로 유지하면서도 계산 과정에서 발생하는 오류를 감지하고 결과의 충실도를 평가할 수 있도록 설계됐다. 다시 말해 “양자컴퓨터가 계산을 수행했다”는 사실뿐 아니라 “그 계산이 실제로 올바르게 수행됐다”는 점까지 함께 입증할 수 있게 된 것이다.

공동 연구자인 Bill Fefferman 시카고대 컴퓨터과학과 부교수는 “이번 실험은 잡음 환경에서도 복잡한 양자 상태의 충실도를 더욱 정확하게 평가하는 방법을 제시했다”며 “양자컴퓨터가 계산 난도가 매우 높은 문제를 실제로 해결하고 있다는 신뢰도를 크게 높였다”고 설명했다. 공동저자인 Soumik Ghosh 역시 검증 기술의 발전이 단순한 실험 검증을 넘어 차세대 양자컴퓨터의 실용적 활용을 가능하게 하는 핵심 기반이 될 것이라고 평가했다.

기술적 규모 역시 주목할 만하다. 연구진은 오류보정(Error Correction)이 적용된 70개의 논리 큐비트를 동시에 운용하며 현재까지 공개된 논리 양자컴퓨팅 실험 가운데 가장 큰 규모 중 하나를 구현했다. 실험에서는 총 2,415회의 논리 2큐비트 연산과 468회의 논리 T게이트 연산이 수행됐다. 특히 T게이트는 범용 양자컴퓨터 구현에 필수적인 연산으로 알려져 있어, 이를 대규모로 안정적으로 실행했다는 사실은 실질적인 계산 능력이 크게 향상됐음을 의미한다.

실험 성능도 인상적이다. IBM 양자컴퓨터는 해당 계산을 약 15분 만에 완료했으며, 연구진은 동일한 문제를 여러 최신 고전 시뮬레이션 기법으로 해결하려 할 경우 현실적인 시간 안에는 수행이 어렵다는 점을 함께 분석했다. 이는 단순히 계산 속도가 빠르다는 의미를 넘어, 현재의 고전 컴퓨팅 기술로는 실질적인 재현이 어려운 계산 영역에 진입했음을 보여주는 결과다.

IBM은 이번 성과를 양자컴퓨팅 산업의 새로운 출발점으로 평가했다. IBM 리서치 총괄이자 IBM 펠로 Jay Gambetta는 “우리는 이제 양자우위 시대에 확실히 진입했다”며 “고전 컴퓨터의 실질적 한계를 넘어서는 계산을 수행했을 뿐 아니라, 그 계산이 얼마나 정확하게 실행됐는지에 대한 통계적 신뢰도까지 제시했다”고 밝혔다. 그는 이어 “이번 성과는 과학자와 개발자, 기업들이 앞으로 양자컴퓨터를 신뢰하고 활용할 수 있는 새로운 기반이 될 것”이라고 강조했다.

이번 연구는 양자컴퓨팅 경쟁의 방향이 바뀌고 있음을 보여준다. 지금까지 업계가 큐비트 수를 늘리는 양적 경쟁에 집중했다면, 앞으로는 오류를 얼마나 줄이고 계산 결과를 얼마나 신뢰할 수 있는지가 핵심 경쟁력이 될 가능성이 크다. IBM이 이번 연구에서 보여준 성과는 단순히 더 많은 큐비트를 구현한 것이 아니라 오류보정과 계산 검증이라는 두 축을 동시에 입증했다는 데 의미가 있다.

전문가들은 이러한 기술이 성숙할 경우 신약 개발과 신소재 설계, 금융 최적화, 암호 해독, 인공지능 학습 등 기존 슈퍼컴퓨터조차 해결하기 어려운 문제들이 양자컴퓨터를 통해 현실적으로 해결될 가능성이 한층 높아질 것으로 전망하고 있다. 이번 연구는 ‘더 빠른 양자컴퓨터’를 넘어 ‘믿을 수 있는 양자컴퓨터’ 시대가 시작되고 있음을 보여주는 중요한 이정표로 평가된다.