트위스티드 MoTe₂에서 발견된 분수 차원 절연체와 양자 이상 홀 결정

초록

본 연구는 트위스티드 MoTe₂의 실제 격자 모델을 구축하고, 최신 텐서 네트워크 기법을 이용해 영‧유한 온도 및 동적 특성을 전산하였다. 결과는 전자 충전 밀도와 상호작용 강도에 따라 페르미온 강자성, 분수 차원 절연체(FCI), 정수 차원 절연체(CI) 및 일반화된 위그너 결정(GWC) 등 다양한 위상 상태가 나타남을 보여준다. 특히 FCI에서 단일 입자 전이 연속체와 유한 전하 갭이 확인되었으며, 온도에 따른 전하 활성화와 강자성 전이 온도가 실험과 일치한다. 더 나아가, 정수 양자 홀 전도성을 갖는 양자 이상 홀 결정(QAHC)이 분수 충전 밀도에서 예측되어 향후 실험적 검증이 기대된다.

상세 분석

이 논문은 트위스티드 MoTe₂(tMoTe₂)에서 보고된 분수 차원 절연체(FCI) 현상을 이론적으로 설명하기 위해, 실제 물질의 전자 구조를 반영한 실공간 허버드 모델을 구축한 것이 가장 큰 강점이다. 먼저, DFT 기반 연속 모델을 Wannier 함수로 변환해 두 개의 하위 격자(A, B)와 두 층(b, t)에 각각 국소화된 궤도를 얻었다. 이 궤도는 Chern 번호 ±1을 갖는 두 밴드에 대응하며, 스핀-밸리 얽힘을 고려해 스핀↑와 ↓를 각각 K와 K′에 매핑하였다. 모델은 1차3차 근접 이웃까지의 홉(t₁, t₂, t₃)과 온사이트 상호작용 U, 그리고 13차 근접까지의 장거리 쿠롱 V₁V₃을 포함한다. 특히 t₂에 2π/3 위상이 부여돼 밴드에 비트리컬 특성을 부여하고, U와 V는 상대 유전 상수 ε_r에 따라 조정된다(ε_r=1020 범위).

수치 해법으로는 iDMRG 기반 텐서 네트워크를 사용해 X‑cylinder(주기적 경계) 형태의 시스템을 6폭까지 확장하였다. 전자 충전 밀도 ν(0≤ν≤1)를 조절하면서, 스핀 z축 전자극성(FM_z) 여부를 에너지 비교로 판단했다. ν≳0.2에서 FM_z가 안정되며, 이는 실험에서 관측된 강자성 전이와 일치한다. Hall 전도성은 플럭스 펌핑(Φ_y=2qπ) 기법으로 전하 이동 ΔQ를 측정해 σ_xy=ΔQ/q로 계산했으며, ν=p/q에서 σ_xy=ν를 보이는 정수 CI와 ν=2/3,4/7,5/9,4/9,3/5 등에서 σ_xy=ν를 보이는 FCI가 재현되었다. 특히 ν=1/3에서 ε_r≈18 이상에서는 전하 밀도가 균일해져 FCI가 형성되고, ε_r≈14 이하에서는 삼각 격자형 위그너 결정(GWC)이 나타났다. GWC는 실공간에서 A 서브격자에 전하가 삼각 격자식으로 배열되고, 동역학 구조인 g_nn(r)와 S_A^n(q)에서 뚜렷한 피크가 관측된다.

동적 특성은 영온도 단일 입자 스펙트럼 A_loc(ω) 계산을 통해 조사했으며, ν=2/3,1에서 각각 18.2 meV, 6.2 meV 정도의 전하 갭이 확인되었다. 이는 실험에서 보고된 전하 갭보다 크게 차이 나는 현상을 설명한다. 유한 온도 iDMRG을 이용해 A_loc(ω=0)의 온도 의존성을 분석한 결과, ν=2/3,1에서 약 T*≈30 K에서 전하 활성화가 시작됨을 보였으며, 강자성 전이 온도 T_c는 ν에 따라 비단조적(non‑monotonic) 변화를 보여 실험과 일치한다.

가장 혁신적인 예측은 정수 Hall 전도성을 보이는 양자 이상 홀 결정(QAHC)이다. ν=1/2,2/3,3/5,4/5,≈0.63 등에서 σ_xy=1이 관측되었으며, 이는 전하 밀도 파동이 격자 대칭을 깨면서도 밴드가 접히는 메커니즘에 의해 정수 Chern 번호가 유지되는 현상이다. 저 ε_r와 낮은 온도에서 전하 결정이 형성되지만, ε_r를 증가시키거나 온도를 올리면 전하 결정이 녹아 FCI로 전이될 수 있음을 제시한다. 이러한 QAHC는 기존의 양자 홀 결정(QHC)과 달리 외부 자기장이 필요 없으며, 시간 역전, 격자 전이, 그리고 스핀 대칭이 동시에 깨지는 복합 대칭 파괴를 특징으로 한다.

전반적으로, 실공간 허버드 모델과 텐서 네트워크 시뮬레이션을 결합해 tMoTe₂의 복잡한 상호작용‑위상 구조를 정량적으로 재현했으며, 실험에서 관측된 전하 갭, 강자성 전이, 그리고 FCI의 존재를 이론적으로 일관되게 설명한다. 또한, QAHC와 같은 새로운 위상 상태를 예측함으로써 향후 실험적 탐색의 로드맵을 제공한다.