양자 물질 핵심 전자구조 직접 시각화 성공

전자 ‘정체 구간’이 밝힌 고온 초전도 단서

물리학자들이 전자의 움직임이 거의 억제되고 강한 상호작용으로 새로운 물질 상태가 나타나는 ‘평탄 밴드 양자 물질(flat-band quantum materials)’의 핵심 전자 구조를 직접 시각화하는 데 성공했다.

Nature Physics에 발표된 이번 연구에서 미국 라이스대학교(Rice University) 치먀오 시(Qimiao Si) 연구팀은 와이즈만 연구소 연구진과 협력해, 이러한 물질의 독특한 성질을 좌우하는 ‘콤팩트 분자 오비탈(compact molecular orbitals)’을 규명했다.

시 교수에 따르면, 평탄 밴드 물질에서는 전자의 이동이 상쇄 간섭으로 인해 사실상 억제된다. 이와 동시에 이러한 물질은 위상적(topological) 성질을 가지는데, 이는 물질이 구부러지거나 변형되더라도 대칭성이 유지되는 한 그 특성이 변하지 않음을 의미한다.

공동 제1저자인 대학원생 마운니카 마항칼리는 전자 상태가 위상적으로 구성되어 있어, 상태 공간을 한 바퀴 순환하면 ‘감김수(winding number)’라는 값이 0이 아닌 값을 갖게 된다고 설명했다. 이는 전자 운동이 단순한 국소적 현상이 아니라 전체 구조에 의해 지배된다는 것을 보여준다.

시는 이전 연구에서 위상이 전자 간 상호작용(상관 물리)에 어떤 영향을 미치는지를 설명하는 이론을 제시했으며, 특히 ‘양자 임계점(quantum critical point)’을 중심으로 새로운 물리 현상을 탐구했다. 그는 평탄 밴드를 대표하는 콤팩트 분자 오비탈을 통해 이 임계 상태를 분석할 수 있다고 보았다.

이를 이해하기 위해 그는 교통 상황에 비유했다. 한쪽 차선은 정체된 상태(고체와 유사), 다른 차선은 빠르게 흐르는 상태(액체와 유사)이며, 차량 이동에 따라 두 상태가 변화한다. 특정 순간에는 두 차선 모두 정체 또는 원활한 흐름으로 바뀔 수 있는 임계점에 도달한다. 시는 이 임계점에서 정체된 차선(콤팩트 오비탈)을 분석하면 빠르게 흐르는 상태에 대한 정보도 얻을 수 있다고 설명했다.

하지만 이 이론은 실험적 검증이 필요했다. 이후 시는 캘리포니아대 산타바버라의 카블리 이론물리연구소에서 와이즈만 연구소의 하임 베이덴코프 교수와 만나 협력하게 되었다. 베이덴코프는 원자 해상도 분광 기술을 활용해 양자 물질을 관측하는 실험 물리학자로, 평탄 밴드 물질을 연구 중이었고 해당 이론을 검증하기에 적합한 실험을 진행하고 있었다.

연구팀은 강한 전자 상관을 보이는 금속 Ni₃In을 대상으로 실험을 수행했다. 이 물질은 비정상적인 전자 특성 때문에 고온 초전도 현상을 이해하는 데 중요한 단서를 제공할 수 있는 후보로 주목받고 있다.

베이덴코프는 원자 수준의 분광법과 물질 맞춤형 분석 모델을 결합해 Ni₃In 내부에서 전류가 흐르는 공간적 분포를 측정했다. 그 결과, 이 물질의 특이한 양자 임계 거동이 카고메(kagome) 구조의 평탄 밴드에서 비롯된다는 사실을 밝혀냈고, 동시에 콤팩트 분자 오비탈이 만들어내는 정교한 공간 패턴도 확인했다.

실험 결과는 콤팩트 분자 오비탈의 존재를 입증했을 뿐만 아니라, 이들이 양자 임계 상태를 형성하는 핵심 요소임을 보여주었다. 시 교수는 이번 연구가 고온 초전도 현상에 대한 이해를 넓히고, 새로운 양자 기술 개발로 이어질 가능성을 열었다고 평가했다.