세계 최초 ‘양자 머신러닝’으로 반도체 제작 공정 혁신
| | | | | | |

세계 최초 ‘양자 머신러닝’으로 반도체 제작 공정 혁신

반도체 제조는 수백 단계의 정밀 공정을 거치는게 필수 다. 에칭(etching)과 박막층 적층(layering) 같은 복잡한 공정을 통해 단 하나의 칩을 생산하는 데에도 극도의 정밀성이 요구된다.

호주 국가 연구기관인 CSIRO(Commonwealth Scientific and Industrial Research Organization) 연구진이 세계 최초로 양자 머신러닝(Quantum Machine Learning, QML)을 반도체 제조 데이터 분석에 적용해 주목을 받고 있다.
이 연구는 반도체 생산의 설계·제어 방식을 혁신할 잠재력을 보여주며 과학저널 Advanced Science에 게재됐다.

양자 접근법으로 실험 데이터를 분석

CSIRO의 양자시스템 책임자인 무하마드 우스만(Muhammad Usman) 교수가 이끄는 연구팀은, 반도체 제작에서 중요한 단계인 오믹 접촉 저항(Ohmic contact resistance) 모델링 문제를 해결하고자 했다.

오믹 접촉 저항은 반도체가 금속과 맞닿을 때 발생하는 전기 저항으로, 전류 흐름의 효율을 결정하는 핵심 변수다. 하지만 이 저항을 정확히 모델링하기는 쉽지 않다. 기존의 클래식 머신러닝(CML) 접근법은 대규모 데이터셋을 필요로 하며,
샘플이 적거나 비선형적 관계가 있는 경우 예측 정확도가 크게 떨어지는 한계가 있었다.

159개 GaN HEMT 샘플 데이터 활용

이번 연구는 159개의 갈륨 나이트라이드 고전자이동 트랜지스터(GaN HEMT) 샘플에서 얻은 실제 실험 데이터를 사용했다. 연구팀은 먼저 제조 공정 변수 중 성능에 직접 영향을 미치는 핵심 변수만을 선별했다.

그 후, Quantum Kernel-Aligned Regressor(QKAR) 라는 새로운 양자·고전 하이브리드 알고리즘을 설계했다.
이 모델은 고전적 데이터를 양자 상태로 변환해 머신러닝을 수행한 뒤, 다시 고전적 알고리즘을 통해 학습 정보를 추출해 제조 공정을 최적화하는 방식이다.

양자 QKAR 성능 최적화. 출처: Advanced Science (2025).

7종의 기존 머신러닝 기법보다 우수

연구 결과 QKAR 모델은 동일한 문제를 풀기 위해 개발된 7가지 기존 클래식 머신러닝(CML) 알고리즘을 능가하는 예측 성능을 보였다.

논문에서 연구진은 “QML이 반도체 분야에서의 고차원·소규모 회귀 문제를 효과적으로 다룰 수 있는 가능성을 입증했으며,
양자 하드웨어가 성숙해짐에 따라 현실 응용으로의 확장이 기대된다”고 평가했다.

반도체 산업을 넘어선 파급 효과

양자 머신러닝 기반 접근법이 상용화된다면, 반도체 제조 비용을 낮추고 소자의 성능을 높이는 데 기여할 수 있을 뿐 아니라,
고전 컴퓨터로는 다루기 어려운 복잡한 문제 해결에도 활용될 전망이다.

양자 기술의 발전이 반도체 산업뿐 아니라 재료과학, 화학, 신약 개발 등 다양한 영역에서 혁신적인 변화를 이끌 수 있다는 점에서 이번 연구는 중요한 의미를 가진다.

논문 정보

  • 논문 제목: Quantum ablation study for optimizing the performance of QKAR
  • 학술지: Advanced Science (2025)
  • DOI: 10.1002/advs.202506213

사이언스모니터 뉴스레터
AI·양자·R&D 핵심 해설을 주 2회(화·금) 이메일로 받아 보세요.

Similar Posts