세계 첫 ‘온칩 양자 보안 검증’ 퀀티넘 H1칩 52큐비트 검증 실현

‘자체 검증’ 가능한 양자 하드웨어…NISQ 시대 실용적 해법

양자컴퓨터가 스스로 계산 결과를 증명하는 시대가 열린다.

프랑스 소르본 대학교(Sorbonne University), 영국 에든버러 대학교(University of Edinburgh), 그리고 양자컴퓨팅 기업 퀀티넘(Quantinuum) 공동 연구진이 세계 최초로 양자컴퓨터의 계산 결과를 ‘온칩(온보드)’ 방식으로 암호학적으로 검증하는 데 성공했다.

퀀티넘의 H1-1 트랩 이온(Trapped-ion) 양자 프로세서에서 구현한 이번 성과는 물리학 최고 권위 저널 피지컬 리뷰 레터스(Physical Review Letters)에 게재됐다.

양자컴퓨터는 기존 컴퓨터로는 불가능한 연산을 수행할 잠재력을 지녔지만, 노이즈와 오류에 취약한 구조 때문에 계산 결과의 신뢰성이 늘 도전 과제였다.

이에 과학자들은 “양자컴퓨터가 진짜로 정답을 계산하고 있는가?”를 확인하기 위한 검증 프로토콜(verification protocol)을 연구해왔다. 이번 연구의 핵심은 기존 이론 수준에 머물던 검증 방식을 실제 하드웨어에서 완전히 작동 가능한 형태로 구현했다는 점이다.

또한 해당 프로토콜은 암호학적(cryptographic) 보안을 갖추어, 외부 공격자나 시스템 결함이 데이터를 위조하거나 조작하지 못하도록 설계됐다.

이번 연구를 이끈 치카 구스티아니(Cica Gustiani) 박사는 “이론 물리학자로서 그동안 개발한 암호 검증 이론이 실제 양자 하드웨어에서 얼마나 유효한지 실험하고 싶었다”며 퀀티넘과의 협업 배경을 설명했다.

연구팀은 먼저 이론적 요구사항을 정리한 후, 이를 퀀티넘의 H1-1 양자 프로세서에 맞게 조정했다. 그 결과, 기존 20개의 이온으로부터 52개의 노드(큐비트 상태)를 재활용해 검증 가능한 최대 규모의 양자 연산을 수행하는 데 성공했다.

NISQ 시대를 위한 실용적 해법

현재 전 세계가 사용하는 양자컴퓨터는 ‘NISQ(노이즈가 많은 중간 규모 양자)’ 단계에 머물러 있다. 따라서 클래식 컴퓨터와의 직접 비교 검증이 불가능한 대형 양자 시스템이 늘어나고 있다.

이에 대해 퀀티넘 연구원 댄 밀스(Dan Mills)는 “향후 Helios를 비롯한 차세대 QPU(Quantum Processing Unit)로 갈수록 출력 검증이 어려워질 것”이라며, “이번 연구는 실제 장비 수준에서 수행 가능한 ‘현실적인 검증 방법’을 제공했다는 점에서 중요하다”고 밝혔다.

‘자체 검증’ 가능한 양자 하드웨어로 진화

이번 프로토콜의 핵심은, 양자컴퓨터가 외부 장치나 추가 프로세서 없이 스스로 결과를 검증할 수 있다는 점이다. 기존에는 두 개의 양자컴퓨터가 서로 계산 결과를 비교해야 했지만, 이번 연구에서는 단일 칩 위에서 자체 검증을 완수했다.

치카 구스티아니 박사는 “구글의 Quantum Echoes 실험은 두 개의 프로세서를 사용했지만,

우리의 접근법은 한 단계 더 나아가 ‘양자컴퓨터가 스스로 진실을 증명하는 방식’으로 작동한다”고 설명했다. 즉, 하나의 양자 프로세서 안에서 테스트 연산과 실제 연산을 무작위로 섞어 수행하며, 테스트 결과를 통계적으로 분석해 계산 결과의 신뢰도를 실시간으로 판단하는 구조다.

실험 결과, 52큐비트까지 완전 검증 성공

연구팀은 이번 실험에서 세계 최대 규모인 52개의 얽힘(Entangled) 노드를 포함한 측정 기반 양자연산(measurement-based quantum computation)을 완전 검증했다. 지금까지 보고된 가장 대규모의 암호학적 검증 성공 사례다.

치카 박사는 “우리는 오늘날의 하드웨어만으로도 완전 검증 가능한 양자 연산을 실현했다”며

“향후 고전적 시뮬레이션이 불가능해질 정도로 대형화된 양자 시스템에서 필수적인 ‘즉시 검증 기술’의 기반을 마련했다”고 강조했다.

연구팀은 다음 단계로, 이번 프로토콜을 오류 내성(fault-tolerant) 구조에 맞게 확장하고 비마르코프성(Non-Markovian) 잡음 등 현실적 노이즈 환경에서도 작동하도록 개선할 계획이다. 또한 검증 신뢰도(Confidence Bound)를 수학적으로 정밀화하여, 특정 노이즈 수준에서 검증 가능한 큐비트 수를 예측할 수 있도록 연구를 이어갈 예정이다.

댄 밀스는 “이번 성과는 오늘날의 양자 하드웨어에서도 실행 가능한 새로운 보안 도구의 출발점”이라며 “퀀티넘의 향후 프로세서에 맞춰 오류 검출 및 정정 코드와 결합된 완전한 보안 검증 체계를 구축할 것”이라고 덧붙였다.