[주간 AI·양자 과학] AI가 양자 회로 설계 직접 설계…AI 양자 하이브리드 컴퓨팅

지난 한 주간 과학·AI·양자컴퓨팅 분야에서는 AI가 양자 회로를 생성해 최적화 문제를 해결하고, 양자 물리 문제를 설계 및 제어, 양자 오류정정 실용화, AI 양자 하이브리드 컴퓨팅, 실리콘 포토닉 양자 칩 등 주요 연구 개발 소식이 이어졌다.

AI가 양자회로 자체를 생성하는 연구 부상

지난주에는 AI가 직접 양자회로를 생성해 최적화 문제를 해결하는 접근법이 주목받았다. AI가 주어진 문제를 풀기 위한 양자회로 자체를 생성하는 방식이다.

IonQ·Oak Ridge National Laboratory·NVIDIA·University of Tennessee Knoxville 연구진은 관련 연구에서 AI가 문제 규모가 커져도 양자회로를 생성하는 시간을 거의 일정하게 유지하면서 최적화 문제를 처리하는 접근법을 소개했다.

DQAOA-GPT(Distributed Quantum Approximate Optimization Algorithm-GPT)는 기존 양자근사최적화알고리즘(QAOA)의 반복적인 변분 파라미터 최적화 과정을 생성형 AI 기반의 양자회로 합성(circuit synthesis)​으로 대체하는 접근법을 제시했다.

기존 방식은 양자회로를 실행하고 결과를 평가한 뒤 변분 파라미터를 다시 조정하는 과정을 반복하면서 최적해를 찾는다. 반면 DQAOA-GPT는 생성형 모델이 문제에 적합한 후보 양자회로를 직접 만들어내고, 정해진 수의 후보를 평가하는 방식으로 탐색 과정을 구성한다. 연구의 핵심은 AI가 양자컴퓨터를 단순히 사용하는 수준을 넘어 ‘어떤 회로를 실행할 것인가’를 직접 설계하는 단계​로 역할을 확대한다는 데 있다.

연구진이 제시한 결과는 벤치마크 규모의 검증( benchmark-scale validation)이다. 연구에서 사용된 모든 양자회로는 실제 양자 프로세서에서 실행된 것이 아니라 NVIDIA cuQuantum SDK를 NVIDIA CUDA-Q 오픈 플랫폼을 통해 이용하는 GPU 기반 양자 시뮬레이션​으로 수행됐다. 계산에는 Oak Ridge Leadership Computing Facility의 Defiant2 시스템에 탑재된 단일 NVIDIA H200 GPU가 사용됐다.

이 설정은 기존의 시행착오 방식과 생성형 AI 방식의 성능을 비교하기 위한 통제된 환경이라는 점에서 의미가 있다. 두 방법 모두 동일한 GPU 가속 인프라에서 실행됐기 때문에 하드웨어 차이에 따른 변수를 최소화하고 전체 최적화 워크플로의 차이를 비교할 수 있었다. 연구에서 관찰된 성능 차이는 주로 DQAOA-GPT가 기존 방식의 반복적인 변분 파라미터 최적화를 제거하고, 생성형 양자회로 합성과 고정된 수의 후보 평가 방식으로 대체한 데서 비롯된 것으로 볼 수 있다.

따라서 이번 결과를 AI가 실제 양자컴퓨터에서 기존 최적화 알고리즘보다 우수한 성능을 입증했다는 의미로 확대해서는 안 된다. 실제 양자 하드웨어에서는 큐비트 연결성, 게이트 오류, 측정 오류, 회로 깊이, 디코히어런스 등 시뮬레이션에서 동일하게 반영하기 어려운 변수들이 추가된다. 향후 실제 양자 프로세서에서 생성된 회로가 동일한 성능을 유지할 수 있는지가 중요한 후속 검증 과제다.

그럼에도 이번 연구는 양자컴퓨팅의 최적화 구조가 ‘사람이 회로를 설계하고 파라미터를 반복 조정하는 방식’에서 ‘AI가 문제에 맞는 회로 후보를 생성하고 평가하는 방식’으로 확장될 가능성​을 보여준다. AI가 양자회로 설계, 오류 완화, 하드웨어 제어까지 담당하게 되면 양자컴퓨터의 경쟁력은 큐비트 숫자뿐 아니라 회로를 얼마나 효율적으로 생성하고 실제 하드웨어의 제약에 맞춰 최적화할 수 있는가에 의해 좌우될 가능성이 커진다.

이 흐름은 AI에서 양자컴퓨터라는 일방향 관계보다, AI가 양자 알고리즘을 설계, 양자컴퓨터가 계산, 그 결과를 AI가 다시 해석하는 폐쇄형 하이브리드 구조가 중요해질 가능성을 보여준다.

이 논문은 2026년 9월 13일부터 18일까지 메트로 토론토 컨벤션 센터에서 열린 ‘IEEE Quantum Week 2026’에서최우수 논문상(Best Paper Award)을 수상했다.

AI가 양자물리 문제를 직접 설계하는 단계로

Prineha Narang 연구팀이 Caltech·NVIDIA와 함께 AI로 복잡한 양자계의 레이저 펄스 시퀀스를 설계하는 방법을 발표했다.

특히 분자의 양자상태를 제어하는 최적화 과정에서 AI가 기존 시뮬레이션보다 최대 1,000만 배 빠르게 후보 펄스를 설계할 수 있다는 결과가 나왔다. 이는 AI가 단순히 실험 데이터를 분석하는 수준을 넘어 양자실험의 제어전략 자체를 생성하는 방향으로 이동하고 있음을 보여준다.(관련 논문)

미국 DOE, ‘100 논리 큐비트’ 오류정정 양자컴퓨터에 최대 2.15억 달러

미국 에너지부(DOE)는 17일 Quantum Genesis Q Competition을 출범시켰다.

목표는 단순히 물리적 큐비트 수를 늘리는 것이 아니라 최소 100개의 논리 큐비트(logical qubit)를 구현하고, 과학적으로 의미 있는 계산을 수행할 수 있는 오류정정 양자컴퓨터를 개발하는 것이다.

DOE는 여기에 최대 2억1500만 달러를 투입할 계획이며, 별도로 국립연구소의 양자컴퓨터 검증·검증기술(V&V)을 위해 4500만 달러를 지원한다.

이는 양자컴퓨팅 경쟁의 기준이 ‘몇 큐비트인가’에서 ‘몇 개의 안정적인 논리 큐비트로 실제 과학 문제를 풀 수 있는가’로 이동하고 있다는 신호다.

프랑스, NVIDIA CUDA-Q 의존도를 낮추는 양자 소프트웨어 생태계 추진

French Alternative Energies and Atomic Energy Commission(CEA)과 프랑스 양자컴퓨팅 스타트업 Alice & Bob은 양자 프로세서와 고성능 컴퓨터(HPC)를 연결하는 소프트웨어 개발에 협력하기로 했다.

핵심은 특정 양자 하드웨어에 모든 소프트웨어가 종속되는 것을 피하고, 고전 슈퍼컴퓨터와 양자컴퓨터가 작업별로 역할을 나누는 하이브리드 양자-HPC 구조다. Reuters는 이 프로젝트가 NVIDIA의 CUDA-Q가 갖는 영향력에 대한 대안적 소프트웨어 생태계를 구축하려는 움직임이라고 분석했다.

양자컴퓨팅의 경쟁축이 하드웨어 → 소프트웨어·컴파일러·HPC 통합으로 확대되고 있다는 점이 중요하다.

실리콘 포토닉스 기반 양자 프로세서

지난 15일 실리콘 포토닉 칩에 양자 주파수 프로세서를 통합한 연구가 Nature Communications에 발표됐다.

연구팀은 하나의 실리콘 포토닉 칩에 양자광원, 필터, 고속 위상변조기, 4채널 펄스 셰이퍼 등을 통합했다. 주파수 빈(frequency-bin) 방식의 양자정보처리는 높은 차원의 정보처리와 병렬 게이트, 기존 통신 인프라와의 호환성을 장점으로 갖는다.

이는 장기적으로 양자컴퓨터와 기존 반도체·광통신 제조공정의 결합 가능성을 보여주는 연구다.

양자 오류를 실시간으로 보정하는 연구

9월 19일 Scientific Reports에는 one-way quantum computing에서 측정 오류를 실시간으로 완화하는 방법이 발표됐다.

연구의 핵심은 계산 과정에서 발생하는 측정 오류를 실시간으로 처리해 양자 계산의 신뢰성을 높이는 것이다.

DOE가 이번 주 100 논리 큐비트 오류정정 시스템을 목표로 제시한 것과 맞물려 보면, 현재 양자컴퓨팅의 핵심 경쟁은 단순한 큐비트 증가보다 오류를 얼마나 효과적으로 억제·보정하면서 계산을 지속할 수 있는가로 이동하고 있다.

일본은 ‘양자컴퓨터 보급’ 단계로 접근

핀란드 IQM은 일본 TOYO Corporation에 두 번째 양자컴퓨터를 판매한다고 발표했다.

IQM Spark는 TOYO의 도쿄 연구개발센터에 설치되고, 앞서 구매한 20큐비트급 IQM Radiance는 일본 산업기술종합연구소(AIST)의 G-QuAT에 설치될 예정이다. 두 시스템 모두 2026년 말까지 공급되고 2027년 초 가동될 예정이다.

일본 사례는 양자컴퓨터가 연구기관의 실험장비를 넘어 기업·연구기관·정부가 공동으로 활용하는 산업 인프라로 이동하는 과정으로 볼 수 있다.