층간 코발트 삽입 전이금속 디셀레나이드의 알터자성 발견

초록

CoNb₄Se₈은 2×2 초격자 구조를 가진 층간 코발트 원자 배열을 갖는 새로운 알터자성 물질이다. 실험적 X‑선·STM·중성자 회절과 DFT 계산을 통해 A형 반강자성(코발트 평면은 페리자성, 층간은 반강자성)과 easy‑axis( c축) 스핀 정렬이 확인되었으며, 이 상태에서 스핀 분리 밴드가 나타나 알터자성 특성을 입증한다. 층상 구조와 쉬운 박리 가능성으로 스핀트로닉스와 이종접합 연구에 유망하다.

상세 분석

본 연구는 전이금속 디셀레나이드 NbSe₂ 층 사이에 코발트 원자를 1/4 비율로 규칙적으로 삽입한 CoNb₄Se₈의 알터자성(Altermagnetism) 특성을 최초로 규명한다. 구조적으로는 P6₃/mmc 공간군에 속하는 2×2 초격자( a≈6.91 Å, c≈12.33 Å)로, Co 원자는 삼각 격자를 이루며 층간에 위치한다. STM 이미지와 X‑ray 회절 결과는 이 초격자가 정확히 구현됨을 보여준다.

자성 측정에서는 168 K에서 급격한 χ_c 감소와 χ_ab의 미세한 변화를 통해 c축을 따라 정렬된 A형 반강자성(A‑type AFM)이 형성됨을 확인한다. 특히 T_N 위에서도 큰 이방성 χ가 유지되는 것은 NbSe₂ 층의 Stoner‑enhanced Pauli 자성에 기인한다는 해석을 제시한다. 전기저항은 금속성을 유지하면서 RRR≈2.3, MR≈1 % 수준이며, 열용량은 λ형 전이 피크를 보인다.

DFT 계산은 스핀‑궤도 결합을 포함한 GGA+U( U≈3 eV) 모델을 사용해 여러 자성 패턴의 에너지를 비교하였다. 그 결과 A형 AFM이 가장 낮은 총 에너지를 가지며, Co의 스핀 순간은 1.35 µ_B(실험값 1.37 µ_B)이고, 이방성 에너지는 0.7 meV/Co 원자로 추정된다. 스핀 플롭 필드는 약 100 T 수준으로, 실험적 자기장에서는 전이되지 않음을 의미한다.

가장 중요한 결과는 A형 AFM 상태에서 전자 밴드가 전반적으로 스핀 분리를 보인다는 점이다. 이는 전통적인 반강자성에서 기대되는 Kramers 이중성(스핀 퇴화)와 달리, 거울·글라이드 대칭에 의해 k‑공간 전반에 걸쳐 스핀이 교대로 반전되는 알터자성 특성을 나타낸다. 계산된 밴드 구조는 Γ‑A, M‑K 등 주요 고대칭선에서 스핀 분리 평면을 형성하고, k_z≈π/2c에서 최대 분리를 보인다. 페르미면은 Γ 주변의 홀 포켓 하나와 M 주변의 전자 포켓 세 개로 구성되며, 이들은 서로 전하를 보상한다(보상된 홀·전자 포켓).

중성자 회절은 (101) 자기 브래그 피크의 온도 의존성을 통해 T_N=168 K임을 재확인하고, 최적의 자기 공간군이 P6₃′/m′m′c( A형)임을 제시한다. 정제된 Co 순간은 1.37 µ_B로, DFT와 일치한다.

알터자성 물질은 스핀 편극된 밴드와 반강자성의 실시간 동역학을 동시에 제공하므로, 테라헤르츠 스핀트로닉스, 비정상 홀 효과, 위상 초전도체와의 근접 효과 등 다양한 응용이 기대된다. CoNb₄Se₈은 층상 구조와 쉬운 박리(Exfoliation) 가능성, 그리고 고품질 단결정 성장 기술이 확보돼, ARPES·스핀‑각분해광전자분광법(SARPES) 등 직접적인 밴드 관측과 이종접합 디바이스 구현에 최적의 플랫폼이 된다. 또한, Co 삽입에 따른 Nb–Nb 결합 길이 비대칭과 Se 평면의 워핑은 3×3 전하 밀도 파동을 형성하며, 이는 포논‑마그논 결합을 탐구할 새로운 물리적 경로를 제공한다.

요약하면, CoNb₄Se₈은 알터자성의 핵심 대칭 요건(거울 대칭에 의한 스핀 반전)을 만족하는 최초의 층간 전이금속 디셀레나이드이며, 실험·이론이 일관된 증거를 통해 스핀 분리 밴드와 A형 AFM을 확립하였다. 이는 알터자성 연구 분야에 새로운 물질군을 추가하고, 2D 스핀트로닉스와 위상 물질과의 융합 연구에 중요한 전환점을 제공한다.