양자컴퓨터 성능 도약을 가로막던 가장 큰 장벽 중 하나인 ‘양자 게이트 오류’를 보다 정확하고 효율적으로 진단할 수 있는 새 기술이 개발됐다.

미국 서던캘리포니아대(USC) 연구팀은 기존보다 훨씬 정밀하고 효율적인 ‘결정론적 벤치마킹(Deterministic Benchmarking, 이하 DB)’ 기법을 개발했다. 이 기술은 양자컴퓨터의 기본 연산 장치인 양자 게이트에서 발생하는 다양한 오류를 손쉽게 식별할 수 있게 해준다.

공동 연구책임자인 다니엘 리다(Daniel Lidar) USC 교수는 “양자컴퓨팅의 미래는 얼마나 정확하게 양자 게이트를 구현하느냐에 달려 있다”며 “새로운 프로토콜은 몇 가지 간단한 실험만으로 일관된 오류 유형과 불일치한 오류 유형을 모두 식별할 수 있어 기존 접근 방식보다 훨씬 효율적”이라 말했다.

정확도 한계 극복

양자컴퓨터는 고전 컴퓨터로는 풀기 어려운 문제를 해결할 수 있는 ‘차세대 기술’로 주목받고 있다. 하지만 그 성능은 연산의 최소 단위인 ‘양자 게이트’의 정확도에 크게 의존한다.

양자컴퓨터는 고전 컴퓨터와 달리 0과 1을 동시에 표현하는 ‘큐비트’를 이용해 정보를 처리한다. 이 덕분에 복잡한 문제를 더 빠르고 효율적으로 해결할 수 있지만, 큐비트는 매우 민감한 물리적 상태이기 때문에 외부 환경으로부터 쉽게 오류가 발생한다. 오류를 측정하고 보정하는 기술이 핵심으로 꼽힌다.

지금까지 널리 사용돼 온 ‘무작위 벤치마킹(Randomized Benchmarking, RB)’ 방식은 다양한 게이트 조합을 무작위로 적용해 전체 평균 오류율을 측정하는 방식이다. RB는 오류의 구체적인 유형을 식별하기 어렵고, 실험에 많은 시간과 자원이 소요된다는 단점이 있었다.

이에 반해 새로 제안된 DB는 단순한 실험만으로도 정밀한 오류 정보를 추출해낼 수 있다. 특히 ‘코히런트 오류(일관된 오류)’와 ‘인코히런트 오류(무작위 오류)’를 명확히 구분할 수 있어 양자 알고리즘 최적화에 큰 도움이 된다.

공동 저자인 엘리 레벤슨팔크(Eli Levenson-Falk) 교수는 “특히 코히런트 오류는 더 파괴적인 영향을 미치기 때문에, 이를 조기에 식별하는 것이 매우 중요하다”며 “이것은 특정 오류 유형, 특히 일관된 오류는 양자 알고리즘에 더 큰 파괴력을 미칠 수 있으며, 이에 따라 다른 완화 전략이 필요하기 때문에 중요하다”고 설명했다.

효율성과 확장성까지

DB는 단순한 실험 설계 덕분에 필요한 실험 횟수가 적고, 처리 속도도 빠르다. 연구팀은 실제로 초전도 큐비트 시스템에 이 기법을 적용해, 기존 방법으로는 감지할 수 없었던 미세한 오류 신호를 성공적으로 포착했다.

향후 연구에서는 이 기술을 두 개 이상의 큐비트 연산(2-큐비트 게이트)이나 다양한 양자 플랫폼(이온 트랩, 광자 기반 등)에도 확장할 계획이다.

이 기술이 보편화된다면 양자컴퓨터의 안정성과 정밀도가 획기적으로 향상될 수 있을 것으로 기대된다.

양자컴퓨팅 분야 전문가들은 이번 연구에 대해 “실제 양자 하드웨어의 성능 향상에 직접적으로 기여할 수 있는 기술”이라며 산업계와 학계 모두에 실질적인 영향을 미칠 것이라고 평가했다.

이 기술은 향후 양자화학, 재료 시뮬레이션 등 정밀 연산이 필요한 다양한 분야에서도 활용 가능성이 높다.

연구는 Chemical Reviews 저널에 발표됐다.

David is the Editor of The Science Monitor. Drawing on extensive experience as the former Public Affairs officer for the Republic of Korea (ROK) Navy, he provide in-depth analysis at the intersection of science, technology, global security, geopolitics, and maritime strategy.
Contact: navy@scimonitors.com | LinkedIn