과도한 얽힘, 양자 기계학습에 장애물

국제 연구원 그룹이 양자 기계 학습 훈련을 방해하는 중요한 장애물을 발견했다.

양자 기계 학습(quantum machine learning)은 인공 지능(AI)을 위한 양자 컴퓨터의 이점을 연구한다. 미래에는 양자 신경망이 양자 계산과 기존 신경망의 장점을 결합할 수 있기를 희망하지만 최근 이론 연구는 잠재적인 어려움을 지적한다.

머신 러닝은 알고리즘이 학습이라고 하는 단계에서 데이터에서 학습해야 한다. 훈련하는 동안 알고리즘은 주어진 작업에서 점진적으로 향상된다. 그러나 많은 종류의 양자 알고리즘은 2018년 Google 팀에서 처음 보고한 불모의 고원(Barren Plateaus)으로 알려진 현상으로 인해 미미한 개선만 경험하는 것으로 수학적으로 입증됐다. 불모의 고원 현상은 양자 알고리즘의 학습을 중단할 수 있다.

PRX Quantum에 발표된 이론 연구는 너무 많은 양자 얽힘(quantum entanglement)에 새로운 초점을 맞춰 황량한 고원의 원인을 추가로 조사한다. 큐비트 또는 양자 비트의 얽힘은 양자 컴퓨팅 성능의 기하급수적인 속도 향상을 가능하게 하는 양자 효과다.

시드니 공대의 ARC 양자컴퓨팅과 통신기술센터 마리아 키에퍼로바(Maria Kieferova) 박사는 “양자 속도 향상을 위해서는 얽힘이 필요하지만, 이번 연구는 어떤 큐비트가 얽혀야 하는지, 얼마나 얽혀야 하는지에 대한 신중한 설계가 필요함을 보여준다”며 “이는 더 많은 양자 얽힘이 더 빠른 속도 향상을 제공한다는 일반적인 이해와 모순된다”고 설명했다.

수석 저자인 카를로스 오티즈 마레로(Carlos Ortiz Marrero) 박사는 “출력 큐비트 또는 가시적 단위와 나머지 양자 신경망 사이의 과도한 얽힘이 학습 과정을 방해하고 많은 양의 얽힘이 모델에 치명적일 수 있음을 입증했다. 이 결과는 성공적인 알고리즘을 위해 피해야 하는 양자 신경망의 구조를 알려준다”고 말했다. 그는 현재 미국 노스캐롤라이나 주립 대학의 연구 조교수다.

Ortiz Marrero 박사는 “연구에 따르면 고전적 기계 학습 모델에서 양자 영역으로의 직접적인 번역 범위는 유익하지 않지만 앞으로 나아갈 수 있는 방법이 있다”며 “네트워크의 깊이와 연결성을 제한함으로써 양자 기계 학습 알고리즘을 훈련할 수 없는 영역을 피할 수 있다”고 덧붙였다.

이는 양자 기계 학습 모델에 얽힘을 정확하고 의도적으로 적용해 달성할 수 있다. 공동 저자인 토론토 대학 Nathan Wiebe 박사는 “얽힘은 우리 모델에 추가할 수 있는 강력한 도구이지만 큰 망치가 아니라 메스와 같이 사용해야 한다”고 말했다.