삼각 격자 양자 스핀 액체 후보 NaYbSe₂의 스펙트럼과 저온 물성

초록

NaYbSe₂의 중성자 산란, 압력 의존 AC 열용량 및 AC 자기 감수성을 조사한 결과, 연속적인 스핀 파동 스펙트럼과 열용량에서의 전이 부재가 확인되었다. 매트릭스‑프로덕트 시뮬레이션과의 일치는 J₂/J₁≈0.07, 약한 평면 이방성의 Heisenberg 모델이 적합함을 시사한다. 40 mK에서 관측된 주파수 의존 피크는 스핀 글라스와 유사하지만, 전반적인 양자 얽힘과 무질서가 결합된 랜덤 싱글릿 형태일 가능성이 높다.

상세 분석

본 연구는 삼각 격자 Yb³⁺ 이온이 형성하는 NaYbSe₂를 양자 스핀 액체(QSL) 후보로 평가하기 위해 다중 실험 기법을 결합하였다. 첫째, 100 mK 이하에서 수행된 인엘라스틱 중성자 산란은 (1/3, 1/3, 0) 점을 중심으로 명확한 하한을 가진 연속적인 스펙트럼을 보여준다. 이는 전통적인 마그노닉 파동이 아닌 스핀온(또는 스핀-분리) 기반의 연속적인 자극을 의미한다. 실험 데이터는 매트릭스‑프로덕트 상태(MPS) 시뮬레이션과 정량적으로 일치했으며, 시뮬레이션에서는 J₂/J₁ = 0.071, 교환 이방성 Δ ≈ 0.9(easy‑plane) 파라미터가 사용되었다. 이러한 파라미터는 최근 신경양자상태(NQS) 계산이 제시한 QSL 경계(J₂/J₁ ≲ 0.063)보다 약간 높은 값이지만, 실험적 불확실성과 유한 크기 효과를 고려하면 NaYbSe₂가 QSL 영역 안에 있거나 그 가장자리 근처에 있음을 강하게 시사한다.

둘째, 압력 의존 AC 열용량 측정에서는 0–2 GPa 범위 내에서 어떠한 급격한 피크도 관찰되지 않았다. 이는 압력에 의해 자성 순서가 유도되지 않으며, J₁이 압력에 따라 크게 변하지 않음을 의미한다. 열용량 곡선은 800 mK 부근의 작은 C/T 피크만을 보이며, 이는 이전 보고와 일치한다. 또한, NaYbSe₂와 KYbSe₂의 열용량을 J₁ 스케일로 정규화했을 때, NaYbSe₂는 더 큰 저온 C/T와 억제된 k_B T/J₁ ≈ 0.2 피크를 보여, J₂/J₁ 비율이 더 큰 경우에 기대되는 QSL 특성을 반영한다. 열용량에 대한 Thermal Pure Quantum (TPQ) 시뮬레이션은 J₂/J₁ ≈ 0.07에서 저온 열용량이 최대가 되는 경향을 재현하며, 실험 결과와 정성적으로 일치한다.

셋째, AC 자기 감수성 측정은 20 mK 이하에서 40 mK 부근에 주파수 의존적인 피크를 나타냈다. 피크 위치 T_f는 ν ∝ exp(−E_a/k_BT_f) 형태의 Arrhenius 관계를 따르며, 시도 주파수 ν₀≈3 × 10⁸ Hz, 활성화 에너지 E_a/k_B≈345 mK (in‑plane) 및 ≈463 mK (out‑of‑plane) 로 추정된다. Vogel‑Fulcher 형태의 피팅은 물리적으로 의미 있는 고정 온도 T₀을 제공하지 않아, 전형적인 스핀 글라스 전이와는 차이가 있다. 대신, 매우 낮은 온도에서만 관측되는 이 현상은 무질서가 존재하는 경우에 나타나는 랜덤 싱글릿(무작위 결합) 상태와 연관될 가능성이 크다. 특히, 0.01 Oe 이하의 초소형 교류장에서도 피크가 지속되는 점은 외부 자장이 아닌 내재적인 동적 자유도가 원인임을 시사한다.

마지막으로, 양자 임계 현상에 대한 논의에서도 NaYbSe₂는 KYbSe₂에서 보고된 양자 임계점(QCP) 근처의 에너지 스케일링이 억제된 것으로 나타났다. 양자 피셔 정보(nQFI) 값이 KYbSe₂의 3.4보다 낮은 2.3을 보이는 점은 NaYbSe₂가 QCP를 넘어 QSL 영역에 위치함을 뒷받침한다. 종합하면, 실험적 증거는 (i) 연속적인 스핀 파동 스펙트럼, (ii) 열용량 및 압력에서의 전이 부재, (iii) 낮은 온도에서의 느린 동역학이 동시에 존재함을 보여, NaYbSe₂가 J₂/J₁ 비율이 충분히 큰 Heisenberg 삼각 격자 모델의 QSL 상태에 해당한다는 강력한 근거를 제공한다. 다만, 40 mK 이하에서 나타나는 느린 동역학은 무질서가 QSL을 부분적으로 교란하거나, 랜덤 싱글릿 형태의 미세한 유리화 현상을 일으킬 수 있음을 시사한다. 향후 저온 μSR, 고해상도 중성자 스펙트로스코피 및 무질서 제어 실험이 이러한 미세한 동역학의 본질을 밝히는 데 필요할 것이다.