삼각 격자 J₁‑J₂ 헬리컬 반강자성체의 자기장에 의한 새로운 위상과 플래토 전이

초록

본 연구는 삼각 격자 J₁‑J₂ 헬리컬 S=½ 반강자성체에 외부 자기장을 가했을 때 나타나는 위상도와 자화 플래토(1/3, 1/2)를 정밀히 규명한다. 자기장 하에서 무간극 양자 스핀 액체(QSL)가 단일 모노폴 밀도를 갖는 새로운 상태로 변하고, J₂/J₁≈1/8 근처에서 연속적인 1/3‑플래토와 1/2‑플래토가 나타나는 것이 확인되었다. 셀프‑컨시스턴트 비선형 스핀파, DMRG, VMC 세 가지 방법을 결합해 상호 검증하였다.

상세 분석

이 논문은 J₁‑J₂ 삼각 격자 헬리컬 모델을 H=J₁∑⟨ij⟩S_i·S_j+J₂∑⟨⟨ij⟩⟩S_i·S_j−h∑_iS_i^z 로 정의하고, 0≤J₂/J₁≤1 범위와 다양한 자기장 h에 대해 전반적인 위상도를 구축한다. 고전적 한계에서는 J₂/J₁<1/8에서 3‑sublattice Y‑상, 1/8<J₂/J₁<1에서 4‑sublattice 스트라이프, 그리고 충분히 큰 h에서 완전 포화 상태가 존재한다. 그러나 양자 요동은 이러한 고전적 축퇴를 풀어주며, 특히 J₂/J₁≈0.125 근처에서 무간극 Dirac QSL이 안정한다는 것이 이전 수치 연구에서 알려져 있다.

연구진은 셀프‑컨시스턴트 비선형 스핀파(NLSWT)를 사용해 Holstein‑Primakoff 변환을 1/S² 차까지 포함하고, 각 파라미터 포인트마다 각도 θ를 자기장과 교환 상수에 맞게 자체적으로 최적화하였다. 두 가지 알고리즘(로컬, 스테이블)을 도입해 수렴성을 확보하고, 30×30 격자에 주기적 경계조건을 적용해 전체 에너지와 스핀 파동분산을 계산했다. NLSWT는 UUD(↑↑↓) 1/3‑플래토와 UUUD(↑↑↑↓) 1/2‑플래토가 각각 J₂/J₁≈0.08~0.14와 J₂/J₁>0.08 구간에서 존재함을 예측했으며, 특히 J₂/J₁≈1/8 근처에서는 두 플래토가 연속적으로 나타나는 ‘플래토 겹침’ 영역을 발견했다.

이와 별도로, DMRG를 6×24 원통형 클러스터(χ=1600, 트렁케이션 오차≈10⁻⁷)에 적용해 그랜드캐노니컬 방식으로 자기장을 스캔하였다. DMRG 결과는 NLSWT와 정량적으로 일치했으며, 특히 플래토 전이점과 연속 구간에서 차이가 거의 없었다. 다만 J₂/J₁≈1/8 근처에서는 양자 플럭투에이션이 크게 증가해 NLSWT의 예측이 약간씩 어긋났지만, 전반적인 위상 구조는 동일하게 유지되었다.

QSL 영역에서는 NLSWT가 수렴하지 않아 비자성 상태를 포착하지 못했으므로, 연구진은 변분 몬테카를로(VMC)를 도입했다. Gutzwiller 투사된 페르미온 파동함수를 기반으로, 모노폴(Q) 상태, Y‑상, UUD, 스트라이프 등 여러 후보를 각각 S^z=Q(0≤Q≤m) 섹터에서 최적화하였다. VMC는 J₂/J₁=1/8에서 h가 약 1.15J₁ 이하일 때 모노폴 밀도가 유한한 상태가 가장 낮은 에너지를 갖는 것을 보여주며, h≈1.15J₁에서 급격히 1차 전이하여 Y‑상으로 전이한다. 이후 h가 증가하면 연속적으로 UUD 플래토(1/3)와 UUUD 플래토(1/2)로 넘어간다. 이 결과는 ‘자기장에 의해 QSL이 모노폴을 띤 새로운 양자 상태로 변하고, 이어서 고전적 플래토가 나타난다’는 물리적 시나리오를 제시한다.

실험적 관점에서, NaYbSe₂, TlYbSe₂와 같은 Yb‑계 딜라포사이트는 J₂/J₁≈0.1~0.2 범위에 해당한다. 기존 실험에서는 1/3‑플래토만 관측됐지만, 본 연구는 1/2‑플래토가 존재할 수 있는 파라미터 창을 제시한다. 따라서 압력, 스트레인, 혹은 화학적 치환을 통해 J₂/J₁를 미세 조정하면 두 플래토가 연속적으로 나타나는 현상을 확인할 수 있다. 또한, 모노폴 밀도가 유한한 상태는 중성자 산란이나 열전도 측정에서 특이한 저에너지 스펙트럼을 보일 것으로 기대된다.

결론적으로, NLSWT‑DMRG‑VMC의 삼중 검증을 통해 J₁‑J₂ 삼각 격자 헬리컬 모델의 전체 위상도가 명확히 제시되었으며, 특히 J₂/J₁≈1/8 근처에서 ‘QSL → 모노폴 → 1/3‑플래토 → 1/2‑플래토’라는 연속적인 전이 사슬이 존재함을 밝혀냈다. 이는 양자 스핀 액체의 존재 여부를 자기장 실험으로 간접 검증할 수 있는 강력한 지표를 제공한다.