KAIST 연구팀이 빛(광학)을 기반으로 한 양자컴퓨터 내부 연산을 CT처럼 완전하게 들여다볼 수 있는 ‘다중 광학모드 양자 토모그래피’ 기술을 세계 최초 개발했다.
이번 기술을 통해 기존 한계를 넘어 최대 16개 광학 모드의 양자연산을 적은 데이터로 분석할 수 있게 되면서, 차세대 양자컴퓨팅과 양자통신 기술의 확장성에 새로운 전환점을 마련했다.
빛 기반 양자컴퓨터 한계 돌파…복잡한 양자연산을 시각화
빛 기반(광학) 양자컴퓨터는 높은 연산 속도와 확장성으로 차세대 양자 기술의 핵심으로 꼽힌다. 그러나 여러 개의 빛 신호(광학 모드)가 얽혀 동시에 처리되는 양자연산 과정을 실험적으로 정확히 규명하는 것은 매우 어려운 기술로 여겨져 왔다.
KAIST는 17일, 물리학과 라영식 교수 연구팀이 다중 광학모드 양자연산을 빠르고 정확하게 파악하는 ‘양자연산 토모그래피(Quantum Process Tomography)’ 기술을 개발했다고 발표했다.
이는 양자컴퓨터 내부에서 실제 연산이 어떻게 일어나는지 의료 CT처럼 내부를 재구성하는 기술로, 양자 기술의 신뢰성을 높이는 핵심 기반기술이다.
왜 ‘양자 토모그래피’인가…CT처럼 내부 구조 재구성
토모그래피(Tomography)는 여러 데이터를 이용해 보이지 않는 구조를 복원하는 기술로, 의료 CT의 원리와 동일하다. 양자컴퓨터에서도 다중 큐빗 또는 광학 모드가 어떤 변화를 거쳐 연산되는지 확인하기 위해 이 기술이 필수적이다.
문제는 기존 토모그래피 방식이 모드 수가 늘어날수록 필요한 데이터와 계산량이 폭발적으로 증가한다는 점이었다. 기존 기술로는 5모드 이상의 양자연산 분석도 어려웠다. KAIST 연구팀은 이런 한계를 넘어선 새로운 양자 토모그래피 방식으로, 양자컴퓨터 내부의 연산 과정을 CT처럼 명확하게 시각화하는 데 성공했다.
증폭 행렬·잡음 행렬 기반의 새로운 수학 모델 제시
연구팀은 비선형 광학 기반 양자연산을 더 정확히 기술하기 위해 다음 두 가지 핵심 요소를 도입했다. 증폭 행렬(Amplification Matrix)은 빛 신호가 양자연산 과정에서 어떻게 강화·변형되는지를 수학적으로 표현한다. 잡음 행렬(Noise Matrix)은 환경적 요인으로 발생하는 잡음·손실을 독립적으로 파악한다. 이 두 요소는 양자 상태의 ‘이상적 변화’와 ‘비이상적 잡음’을 동시에 추적할 수 있어, 실제 양자컴퓨터의 동작을 훨씬 현실적으로 해석할 수 있게 한다.
기존 대비 압도적 효율…세계 최초 ‘16모드 양자연산’ 실험 규명
연구팀은 다양한 종류의 빛 신호(양자상태)를 입력해 변화된 출력을 정밀 분석하고, 이를 최대우도추정(MLE) 방식으로 역추적해 내부 연산을 재구성했다. 그 결과, 기존 방식 5모드 분석 한계를 넘어 적은 데이터로도 16모드 양자연산 규명에 세계 최초로 성공했다. 이는 다중 광학모드 양자컴퓨터의 상용화 핵심 기술로 평가된다.
양자컴퓨팅·통신·센싱 확장성 확보
라영식 교수는 “이번 연구는 양자컴퓨팅 핵심 기반기술인 양자연산 토모그래피의 효율을 획기적으로 높였다”며 “차세대 양자컴퓨팅, 양자통신, 양자센싱 기술의 신뢰성과 확장성을 크게 향상시킬 것”이라고 밝혔다.
국제 학술지 ‘네이처 포토닉스’ 게재된 이번 연구는 KAIST 물리학과 곽근희 석박사통합과정 학생(제1저자), 노찬 박사후연구원, 윤영도 석박사통합과정 학생, 김명식 교수(임페리얼 칼리지 런던)가 공동 참여했다.
연구 결과는 국제 저명 학술지 네이처 포토닉스(Nature Photonics) 2025년 11월 11일 온라인판에 게재됐다.
