수학적 신경망 최적화로 상전이 감지

신경망은 사용 가능한 데이터로 훈련하여 작업에 대한 솔루션을 근사화하는 학습 알고리즘이다. 그러나 일반적으로 그들이 이것을 정확히 어떻게 달성하는지 불분명하다.

스위스 바젤 대학(University of Basel) 물리학자들이 이제 네트워크를 훈련하지 않고도 최적의 솔루션을 계산할 수 있는 수학적 표현을 도출했다. 연구 결과는 이러한 학습 알고리즘이 어떻게 작동하는지에 대한 통찰력을 제공할 뿐만 아니라 미래에 물리적 시스템에서 알려지지 않은 상전이(phase transitions)를 감지하는 데 도움이 될 수 있다.

신경망(neural networks)은 뇌의 작동 원리를 기반으로 한다. 이러한 컴퓨터 알고리즘은 반복적인 훈련을 통해 문제를 해결하는 방법을 배우고, 물체를 구별하거나 구어를 처리할 수 있다.

수 년 동안 물리학자들은 신경망을 사용하여 상전이도 감지하려고 시도했다. 상전이는 물이 얼어 얼음이 되는 등 일상 현상이기도 하지만, 종종 감지하기 어려운 자성 물질 또는 양자 시스템의 서로 다른 상 사이에서 더 복잡한 형태로 발생한다.

바젤 대학 Christoph Bruder 교수 연구 그룹 Julian Arnold, Frank Schäfer(Ph.D)은 이제 이전보다 더 빨리 이러한 상전이를 발견할 수 있는 수학적 표현을 단독으로 도출했다. 연구는 최근 Physical Review X 저널에 발표됐다.

신경망은 네트워크에 의해 계산된 예측이 입력된 훈련 데이터와 점점 더 밀접하게 일치하도록 하기 위해 많은 훈련 라운드에서 매개변수를 체계적으로 변경하여 학습한다. 그 훈련 데이터는 사진의 픽셀이 될 수도 있고, 실제로 어떤 것을 배우고 싶은 상전이를 나타내는 물리적 시스템에 대한 측정 결과일 수도 있다.

Arnold는 “신경망은 이미 상전이를 감지하는 데 상당히 능숙해졌지만 일반적으로 정확히 어떻게 수행하는지 완전히 불분명하다”고 말했다. 그 상황을 바꾸고 신경망의 “블랙 박스”에 빛을 비추기 위해 Arnold와 Schäfer는 원칙적으로 무한히 많은 훈련 라운드를 거치는 무한한 수의 매개변수가 있는 네트워크의 특수한 경우를 조사했다.

일반적으로 이러한 네트워크의 예측은 항상 특정 최적 솔루션을 향하는 경향이 있음이 알려져 왔다. Arnold와 Schäfer는 실제로 네트워크를 훈련시킬 필요 없이 최적의 솔루션을 직접 계산할 수 있는 수학 공식을 도출하기 위한 출발점으로 이것을 사용했다. Arnold는 “이 지름길은 컴퓨팅 시간을 엄청나게 줄여준다. 이 솔루션을 계산하는 데 걸리는 시간은 소규모 네트워크에 대한 1회 훈련 시간 수준”이라고 설명했다.

시간을 절약하는 것 외에도 Basel 물리학자들이 개발한 방법은 파생 방정식이 신경망 기능과 조사 중인 물리적 시스템에 대한 통찰력을 제공한다.