대규모 원자 구조의 해밀토니안 예측을 위한 그래프 신경망 기반 머신러닝

초록

본 논문은 비정질·결함이 많은 5,000여 원자 규모의 밸런스 체인지 메모리(VCM) 셀에 대해, 회전 등가성을 갖는 그래프 신경망(EGNN)과 증강 파티셔닝 학습을 이용해 DFT 수준의 해밀토니안 행렬을 직접 예측한다. 평균 절대 오차는 3.4~3.6 meV이며, 이를 이용해 양자 전송 시뮬레이션을 수행한 결과 전류‑전압 특성이 DFT와 정성적으로 일치한다.

상세 분석

이 연구는 전자 구조 계산에서 가장 비용이 많이 드는 단계인 해밀토니안 행렬 구축을 머신러닝으로 대체한다는 근본적인 목표를 갖는다. 기존 DFT는 O(N³) 복잡도로 수천 원자 규모에서는 실용적이지 않은 반면, 저자들은 회전·번역 등가성을 내재한 EGNN을 설계해 물리적 변환에 강인한 모델을 구현했다. 네트워크는 단일 메시지 패싱 레이어와 다중 헤드 어텐션을 사용해 원자와 원자 사이의 상호작용(노드와 엣지 임베딩)을 학습하고, 이를 통해 로컬 해밀토니안 서브블록을 재구성한다. 특히 ‘증강 파티셔닝(augmented partitioning)’ 기법을 도입해 전체 5,268원자 구조를 얇은 슬라이스로 나누어 GPU 메모리 한계 내에서 학습·예측이 가능하도록 하였으며, 파티션 경계에서의 원자 연결성을 완전히 보존함으로써 정확도 손실을 최소화했다.

학습 데이터는 실제 KMC 시뮬레이션으로 얻은 물리적 결함 분포와는 달리, 무작위로 삽입한 산소 결함을 가진 두 개의 VCM 구조에서 추출한 20개의 1 Å 두께 슬라이스(총 40 000여 원자)로 구성되었다. 이처럼 훈련과 테스트 사이에 큰 분포 차이를 두어 모델의 일반화 능력을 엄격히 검증하였다. 결과적으로 노드(온사이트)와 엣지(오프사이트) 해밀토니안 요소에 대한 평균 절대 오차는 각각 1.5~1.8 meV와 0.12 meV 수준으로, 기존 최첨단 모델(2.2 meV)과 비교해 비슷하거나 더 나은 정확도를 보였으며, 이는 5,000원자 규모라는 이전 한계보다 30배 이상 큰 시스템에 적용된 점이 혁신적이다.

예측된 해밀토니안을 양자 전송 시뮬레이터(Omen)와 NEGF 포멀리즘에 입력해 에너지‑해상도 전송 함수 T(E)와 전류 I를 계산했다. 전송 곡선은 피크 위치와 세부 형태에서 차이가 있었지만, 전류‑전압 특성은 특히 완전한 필라멘트가 형성된 경우 DFT와 정량적으로 일치했다. 이는 전류가 전송 함수의 전체 영역에 걸친 적분값이기 때문에 작은 해밀토니안 오차가 평균 전류에 크게 누적되지 않음을 시사한다. 또한, ML 추론 시간은 2 초에 불과해 DFT(수천 노드‑시간) 대비 3~4 주문위의 속도 향상을 제공한다.

한계점으로는 전송 피크와 같은 미세 전자 구조 특성을 완벽히 재현하지 못한 점이며, 이는 특히 저전도(브로큰) 상태에서 전류가 민감하게 변하는 경우에 더 두드러진다. 향후 더 많은 훈련 데이터와 고차원 표현을 지원하는 E(3) 변환기(예: Equiformer‑v2) 등을 도입하면 정확도를 개선할 여지가 있다. 또한, 현재는 TiN‑HfO₂‑Ti/TiN 스택에 국한됐지만, 동일한 프레임워크를 상변화 메모리, 상변화 재료 등 다른 비정질·결함계 시스템에도 확장 가능할 것으로 기대된다.